في عالم الذكاء الاصطناعي المتسارع، تظهر تطورات جديدة تستدعي اهتمام الباحثين والمهندسين على حد سواء. حيث تمثل الأطر الوكيلة (Agentic AI frameworks) تحولًا جذريًا يمكّن نماذج اللغة (Language Models) من التخطيط، والاحتفاظ بالذاكرة، واستخدام الأدوات التي تصل إلى الملفات الحقيقية والخدمات. ولكن ما الذي يحدث عندما يتم حقن نصوص إلى داخل هذه الأطر بصورة غير مشروعة؟

كشفت دراسة جديدة نشرت على منصة arXiv، عن مجموعة من الهجمات المبتكرة التي يتم تنفيذها باستخدام تقنيات حقن النصوص المتعددة الوسائط، والمسماة MMPIBench. يقدم هذا المقياس القابل لإعادة الإنتاج مجموعة ثابتة من الهجمات عبر ستة حوامل بصرية تشمل نصوص OCR، والتراكبات، وبيانات EXIF، والرموز السريعة (QR codes)، والواجهات الوهمية، وغيرها.

أظهرت النتائج من 720 تجربة غطت ستة أطر عمل ونماذج رئيسية متعددة أن هجمات الحقن تمت بنسبة تقريبية تقدر بـ 1% من التجارب، مع سعي المهاجمين لتطبيق الهجمات في 12.8% من الحالات. وما يثير الدهشة هو أن الفجوة تُسد بدرجة كبيرة خلال مرحلة التخطيط، حيث يقرأ النموذج التعليمات المدخلة لكنه يتجنب اتخاذ إجراء بشأنها.

تتباين النماذج في قدرتها على التعرف على الهجمات، إذ أظهرت إحدى النماذج القدرة على التعرف على حقن النصوص في 59.7% من المحاولات، بينما لم تحاول نموذج آخر أي هجوم على الإطلاق. كذلك، تم توسيع هذا المقياس ليشمل قنوات الإدراك الصوتي، لكن القليل من النماذج الحالية تقبل تلك المدخلات. ومع ذلك، حيثما تصل الإشارات، تظهر الهجمات نسبة إكمال تصل إلى 49% في الخلايا المستهدفة، وهذه النسبة تصل إلى 75% لنموذج معين.

بروز هذه التحديات يستدعي إعادة التفكير في الأمن السيبراني داخل بيئات الذكاء الاصطناعي، فبينما تعتبر قنوات الإدراك غير المرئية أقل حماية، إلا أنها تظل قادرة على التسبب في نتائج مفاجئة.

ما رأيكم في هذه النتائج المدهشة؟ هل ترون أن الأطر الوكيلة بحاجة إلى مزيد من الدفاعات ضد هجمات الحقن؟ شاركونا آرائكم في التعليقات.