مع الانتشار الواسع لنماذج اللغات الضخمة (Large Foundation Models) في بيئات مفتوحة، بدأت التهديدات المرتبطة بالأمان بالتحول من الانتهاكات غير المعروفة (black-box jailbreaks) إلى هجمات أكثر تعقيداً تُعرف بالهجمات البيضاء (white-box attacks). هذه الهجمات تستهدف التعرف المباشر على وحدات الأمان الداخلية لهذا النوع من النماذج.

ومع ذلك، فإن الدفاعات الحالية غالبًا ما تعتمد على وحدات أمان ثابتة ومسارات صريحة للرفض، مما يجعل النموذج عرضة للهجمات المستهدفة. في هذا السياق، نقدم نظام "التوجيه الديناميكي والتوافق التكيفي" (Dynamic Routing Adaptive Alignment - DRAA)، وهو إطار عمل يهدف إلى إدخال مسارات تعويضية ديناميكية للحفاظ على سلوك رفض قوي عندما يتم اختراق المسار الأمني.

يبدأ DRAA بتحديد وتحديد موقع المسار الأمني للنموذج من خلال مقارنة الأنشطة الداخلية بين عينات المعايرة الآمنة وغير الآمنة. ثم يقوم النظام بإخفاء هذا المسار الأمني لاستنتاج حالات فشل سببية واستخراج نقاط الفشل الناتجة، مما يتيح بناء أزواج تفضيل مدركة للفشل.

تظهر التجارب المكثفة أن DRAA يعيد بناء اعتمادية المسار الأساسي بأمان النموذج، مما يحسن بشكل ملحوظ مقاومة النموذج ضد هجمات الطرق المستهدفة، بينما يحافظ أيضًا على الفائدة العامة للنموذج.

نحن الآن نواجه تحولًا في كيفية تعامل نماذج الذكاء الاصطناعي مع التهديدات، وهي فرصة واضحة لابتكار حلول أمان جديدة.

ما رأيكم في الابتكارات الجديدة في مجال الأمان؟ شاركونا في التعليقات.