أمان الذكاء الاصطناعي: كشف الأضرار باستخدام حالات كامنة في نماذج اللغات الضخمة

تتزايد اعتماد الأنظمة الذاتية على نماذج اللغات الضخمة (Large Language Models - LLMs) في مجالات متعددة، إلا أن التحديات المرتبطة بالبنية التحتية للأمان تُعتبر عائقًا رئيسيًا. إذ إن البنية التحتية الحالية تقدم تأخيرات وتكاليف إضافية قد تقوض الفوائد المتوقعة من هذه الأنظمة في البيئات التي تعاني من نقص في الموارد أو التي تتطلب استجابة سريعة.

تشير الدراسات إلى أن النماذج الخارجية التي تراقب الأمان قد تتجاهل العمليات الداخلية للنموذج، مما يمنع تحقيق مستوى كافٍ من الضمانات. ولكن، هل يمكن للنموذج نفسه التعرف على المحتوى الضار؟

في محاولة للإجابة على هذا السؤال، قام الباحثون باستخراج التنشيطات من نموذج LLaMA-3.1-8B وتدريب نماذج مصنفة خفيفة الوزن من نوع ملتي لاير بيرسيبترون (MLP) تحتوي على 12.6 مليون معلمة للكشف عن التحفيزات الضارة. وقد تم تقييم هذه الأنماط على عدة مجموعات بيانات بما في ذلك WildJailbreak، Beavertails، وAEGIS 2.0.

النتائج كانت مثيرة للإعجاب، حيث حققت هذه النماذج تصنيفات F1 بلغت 99%، 83%، و84% على التوالي، مما يجعل أدائها تنافسيًا مع النماذج الخارجية الكبيرة التي تزن 1000 ضعف، بينما قللت في الوقت نفسه من التأخير والتكاليف الحاسوبية.

تأسيسًا على هذا النجاح، يمكن للباحثين والشركات تعزيز أمان أنظمتهم الذاتية باستخدام نماذج متطورة قادرة على التعرف المبكر على المحتوى الضار وبالتالي تحسين الاعتمادية والسلامة.