في عالم الذكاء الاصطناعي المعاصر، حيث تُستخدم نماذج اللغة الضخمة (LLMs) بشكل متزايد في تطبيقات تتطلب أمانًا عاليًا، يبرز تحدٍ كبير يتعلق بالحاجة إلى طرق منهجية لتقييم قابليتها للاختراق بواسطة هجمات التخطي. هنا يأتي دور مفهوم "مشكلة Oracle التخطي"، التي تتطلب منا تحديد ما إذا كان بإمكان نموذج معين استجابة تخطي بحيث تفوق احتمالية حدوثها عتبة محددة.

تعتبر هذه المشكلة خطوة حاسمة نحو دراسة أمان نماذج اللغة بشكل أعمق، غير أن التعامل مع مشكلة Oracle التخطي يتطلب موارد حسابية كبيرة، حيث تتسع مساحة البحث بشكل متزايد مع زيادة طول الاستجابة. ولتجاوز هذه التحديات، تم تقديم نظام جديد يدعى "Boa"، وهو الأول من نوعه المصمم لحل مشكلة Oracle التخطي بفعالية.

يعتمد نظام Boa على استراتيجية بحث من مرحلتين، حيث يبدأ بالبحث العريض لتحديد نقاط التخطي السهلة الوصول، يتبعها بحث عميق يركز على المسارات الواعدة التي تحمل احتمالات منخفضة، باستخدام تقييمات أمان مفصلة. وقد أثبت هذا النظام فعاليته في تعزيز سلامة النماذج عبر تقييم شامل لمستويات الدفاع، ومقارنة منظمة بين هجمات الفرق المعاكسة، والحصول على شهادات للنماذج في ظروف معادية متطرفة.

تعتبر هذه التطورات في اختبار أمان نماذج اللغة إضافة بارزة في مجال أبحاث الذكاء الاصطناعي، مما يساعد على تعزيز موثوقية هذه النماذج في التطبيقات الحساسة. لمزيد من المعلومات، يمكنكم الاطلاع على الكود المتاح عبر [GitHub](https://github.com/shuyilinn/BOA/tree/mlsys2026ae).