في عالم الذكاء الاصطناعي المتسارع الوتيرة، تبرز نماذج اللغات الضخمة (Large Language Models) كأدوات فعّالة، لكنها تحمل في طياتها مخاطر جديدة تتمثل في ما يعرف بالبرمجيات الخبيثة المدسوسة (stegomalware). حيث قد تحدث فوضى يجب التصدي لها.

تتكون هذه البرمجيات الخبيثة من شفرات خبيثة تُدمج في أوزان هذه النماذج، مما يجعلها عرضة للاختراق. وأثبتت الأبحاث الأخيرة أن استغلال التماثل في الأوزان يمكن أن يكون سلاحاً ذا حدين، حيث يمكن استخدامه كوسيلة للدفاع عن هذه النماذج أو كفخ للإضرار بها.

في ورقتنا، نقدم حلولاً قوية تحسن من تقنيات الحماية، مشيرين إلى إمكانية انتقاء التباديل (permutations) التي تؤثر على جميع المعلمات في النموذج. هذا ينقض الفرضيات السابقة التي تركت نسبة كبيرة من الأوزان دون تغيير، مما يجعل النظام أكثر عرضة للاختراق.

تمكنّا من إثبات فعالية تماثلات السلوك في مواجهة البرمجيات الخبيثة، مما يتيح كل هذه الفوائد بدون الحاجة إلى إعادة تدريب متعبة للنماذج. ومع ذلك، يجب أن نكون حذرين، إذ إن التماثلات قد تُحدث تغيرات في سلوك النموذج بسبب الأخطاء العددية المجمعة.

لقد قمنا بقياس التأثيرات على أداء النموذج باستخدام هذه الأساليب، حيث توصلنا إلى أن الفقد في الأداء كان ضئيلاً يقارن بالمزايا المستخلصة. إن موازنة المخاطر والفوائد هي الطريقة الأمثل لمحاربة التهديدات الموجودة، ومن المؤكد أن النموذج الجديد سيحدث تأثيرًا كبيرًا في عالم البرمجة وأمان النماذج.

في الختام، تتزايد التهديدات في عالم الذكاء الاصطناعي، مما يستدعي البحث المستمر والتطوير. ما رأيكم في هذه التطورات؟ شاركونا في التعليقات!