في عالم يتسارع فيه تطور الذكاء الاصطناعي، يمثل الأمان جانبًا حيويًا لا يمكن الاستهتار به. في خطوة مثيرة، طورت مجموعة من الباحثين تقنية جديدة تُعرف باسم CounterSteer، تهدف إلى تحقيق دفاع فعال ضد حقن التعليمات غير المباشرة (Indirect Prompt Injection) في نماذج اللغات الكبيرة (Large Language Models).

تكمن خطورة هذا النوع من الهجمات في جعل وكيل الذكاء الاصطناعي يتعامل مع نصوص غير موثوق بها وكأنها تعليمات، مما قد يؤدي إلى نتائج كارثية. لكن CounterSteer تعالج هذه الثغرة بذكاء من خلال استراتيجية الدفاع أثناء مرحلة الاستنتاج.

تتكون فعالية CounterSteer من خوارزمية تعتمد على خمس خطوات، تعمل على توجيه المنارة (residual-stream direction) من حلقات متقابلة تختلف فقط في اتباع تعليمات مدمجة. تستفيد التقنية من أبواب محددة مسبقًا لقياس السببية والقدرة لضمان بقاء التعليمات الصالحة فقط.

خلال التطبيق العملي، يتم طرح هذا الاتجاه من كل رمز ناتج عن أدوات الذكاء الاصطناعي، مما يجعل عملية الدفاع دائمة الفعالية بدون الحاجة إلى أي تعديلات أو نماذج مساعدة.

إحصائيًا، أظهرت الدراسات أن نسبة النجاح لهجمات غير محمية تتراوح بين 0.21-1.00، تنخفض إلى 0.00-0.17 عند استخدام CounterSteer، مما يدل على كفاءتها العالية. إضافة لذلك، فإن هذه التقنية تبقي على نسبة 93-100% من استخدامات الذكاء الاصطناعي العادية دون تدهور كبير.

CounterSteer تمثل خطوة كبيرة نحو ضمان استقرار وأمان نماذج الذكاء الاصطناعي، مما يعزز التطلع نحو مستقبل أكثر موثوقية. ما رأيكم في هذه التقنية الثورية؟ شاركونا في التعليقات.