شهدت الأبحاث في مجال نماذج الذكاء الاصطناعي (AI) تطورًا مثيرًا مؤخرًا، حيث تم تقديم مشروع AHA الذي يعد ثورة في كيفية التعرف على الثغرات الأمنية في نماذج اللغة الكبيرة (Large Language Models) مثل Claude Code وCodex. يعمل هؤلاء الوكلاء على محتوى غير موثوق به، مما يجعل أي إخفاقات تتعلق بالأمان مُباشرة وقابلة للتنفيذ.

ما يميز AHA هو أنه يعيد تعريف مفهوم تقييم الأمان عبر إنتاج حلقة اكتشاف يمكن التحقق منها، حيث يبدأ باقتراح فرضية حول الثغرات، ثم يستخدم أدوات مثل المُفند (falsifier) لتنفيذ الاختبارات. هذه العمليات تُسجل المسارات التي يتم فيها الهجوم وتعمل على تعزيز المعرفة حول الثغرات القابلة لإعادة الاستخدام.

من خلال اختبار Claude Code وCodex في سيناريوهات متنوعة، تم الكشف عن مفاهيم ثغرات تشير إلى وجود نواة قابلة لإعادة الاستخدام ضمن نماذج متعددة، مما يبرز أهمية هذا الابتكار في تعزيز أمان أنظمة الذكاء الاصطناعي.

تظهر النتائج قدرة AHA على تجاوز الأساليب التقليدية، حيث أحرزت تحسينات ملحوظة تصل إلى 14.2 نقطة مئوية. فبدلاً من الحاجة إلى بحث مستمر، يمكن الحصول على مفهوم الثغرات المجمد لمراجعة الأمان دون عناء.

إذا كنت تعمل في مجال الأمن السيبراني أو تطوير نماذج الذكاء الاصطناعي، فإن AHA يعد أداة قوية لحماية الأنظمة والتحقق من الثغرات الموجودة. تقدموا خطوة للأمام نحو أمان أفضل ولا تنسوا زيارة مشروع AHA على GitHub لمزيد من التفاصيل.