تشهد أنظمة التعرف الضوئي العميق (Deep OCR) ثورة في كيفية معالجة الوثائق، حيث تُسهم تقنيات مثل تقنية الكثافة الضوئية (Optical Compression) بإحداث تحول في مهام التعرف على النصوص. لكن، مع هذه التطورات، تظهر تهديدات جديدة تتعلق بالأمان.

في دراسة حديثة، تم تقديم أول هجوم معادي (Adversarial Attack) يعتمد على الصندوق الأسود ضد نموذج التوليد للرؤية واللغة (Vision-Language Model) في أنظمة Deep-OCR. يكشف هذا البحث كيف يمكن لمهاجم استخلاص معلومات من النظام، مستفيدًا فقط من الإخراج النصي لنموذج لا يمكن الوصول إلى داخله أو بياناته الداخلية.

تعتبر هذه الدراسة مبتكرة، حيث أعادت صياغة الهجوم كمشكلة تحسين من الدرجة الصفرية، مما يسمح بتقدير الاتجاهات على أساس تشابه السلاسل النصية. من خلال تقنية الفروق المحدودة، تمكّن الباحثون من تنفيذ هجمات تستهدف كل من الحالات المستهدفة وغير المستهدفة دون التأثير الملحوظ على النتائج.

تُظهر التجارب التي أجريت على Deep-OCR مشاكل حادة في دقة النماذج، مثل التكرار، والتقطيع، وتسريبات البيانات المخزنة. بالإضافة إلى ذلك، أظهرت الأبحاث أن إعادة كتابة الأهداف المستهدفة أكثر تعقيدًا مقارنة بتدهور النتائج غير المستهدفة.

يطرح هذا البحث تساؤلات هامة حول أمن الأنظمة الجديدة ومخاطر الهجمات المعادية، ما يعكس الحاجة إلى حماية نماذج الذكاء الاصطناعي من التهديدات المتزايدة. كيف يمكن لنماذج التعلم العميق أن تتطور لمواجهة هذه الهجمات بشكل فعّال؟