في عالم الذكاء الاصطناعي، بعيداً عن المظاهر السطحية والنتائج الفورية، تكمن تحديات عميقة تتعلق بالكفاءة والأمان في نماذج اللغات الضخمة (Large Language Models). عرض الباحثون في أحدث أبحاثهم مفهوم "اختراق التحويل المتقارب" (Convergent Detour Hijacking) كآلية للاستغلال يمكن أن تغير الطريقة التي تعمل بها هذه الأنظمة.

تزداد اعتمادية وكالات نماذج اللغات الضخمة بشكل ملحوظ على المهارات التي تقدمها أطراف ثالثة، مما يتطلب استخدام أوصاف نصية لاختيارها وبدن التعليمات للتخطيط. تتمثل المشكلة الرئيسية في أن هذا التصميم قد يكشف عن نقاط تحكم متتالية لأطراف غير موثوقة، مما قد يؤدي إلى توجيه المهام بشكل غير ضروري إلى مسارات مكلفة.

تتناول دراسات سابقة تحكم اختيار المهارات والتعليمات الخبيثة بشكل منفصل، مما يترك الفهم الشامل لكيفية تفاعل هذه العناصر مع بعضها البعض غير واضح. لذا، يقدم الباحثون في هذا السياق مفهوم اختراق التحويل المتقارب كاستراتيجية تعتمد على النص فقط، وبدون اعتماد على وقت التشغيل.

من خلال حماية معنوية مشتركة، يتم استخدام وصف لتأسيس العلاقة خلال عملية الاختيار، بينما يعمل بدن متطابق على إعادة استخدام هذه المعايير لصنع تبعيات قابلة للتصديق خلال التخطيط. ينجذب المخترق عند هذه النقطة إلى منسق يتحكم فيه مع مهارات مشروعة، مما يجعله يجمع مهارات بناءة غير ضرورية في محاولة للتوجيه، ليعيد بعد ذلك الدخول إلى المسار الأصلي للحفاظ على إكمال المهمة.

عند تقييم هذا الهجوم عبر عدة خلفيات لنماذج اللغات الضخمة و491 مهمة محفوظة تحت ظروف انفرادية و متعددة الحركات، تم اختيار المنسق المتطابق في 80.02% من المهام. لكن في تلك الإعدادات، زادت استهلاك الرموز ووقت التنفيذ بنسبة 66.91% و92.45% على التوالي، رغم أن إكمال المهام الإجمالي ظل متقارباً.

هذه النتائج تبرز أن النتائج الصحيحة لا تضمن نزاهة المسار أو أمان التكاليف. هذا التحدي يتطلب من الباحثين والمطورين الانتباه إلى كيفية استخدام مهارات الطرف الثالث وكيفية تجنب الهجمات المحتملة!

إذا كنت مهتمًا بـ مستقبل الذكاء الاصطناعي وتطبيقات نماذج اللغات الضخمة، فلا تفوت متابعة هذه الأبحاث المهمة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!