في عالم الذكاء الاصطناعي المتسارع، تعتبر نماذج اللغات متعددة الوسائط (Multimodal Large Language Models) أداة قوية تُستخدم لمهام الأمان والمراقبة المحتوى، لكن يبقى استخدامها معرضاً لهجمات معاكسة وحالات أمان معقدة. على الرغم من تقدم الأساليب التقليدية في التعلم النشط والتعليق اليدوي، إلا أنها لا تتناسب مع تعقيد وكمية التهديدات المتزايدة.

لذا، قمنا بتطوير إطار عمل آلي جديد يُعرف باسم 'نظام رد الفعل الذاتي'، الذي يهدف إلى توليد أمثلة صعبة بصورة منهجية. يعتمد هذا الإطار على استراتيجية تكرارية تقترح فرضيات جديدة وتعدل على المحاولات السابقة.

يتضمن النظام مجموعة من الوكلاء: وكيل معماري قوي، ومولد صور متقدم، ولجنة تحقق متعددة المستويات تتكون من مقيمات نماذج اللغة. حيث يكشف هذا النظام ذاتياً عن انتهاكات للسياسات خارج الحدود القابلة للتطبيق وحالات غير واضحة، وكل ذلك دون تدخل بشري.

من خلال استخدام هذه الأمثلة المعاكسة التي تم توليدها بعناية كعروض ضمن سياق الاختبار، نستطيع تحسين صمود النموذج المستهدف، مما يقلل من معدل الإيجابيات الخاطئة (False Negative Rate) من 41.2% إلى 24.5% في معيار الأمان للصور العامة، ودون الحاجة إلى تصنيفات بشرية أيضاً.

إن هذه الابتكارات تمهد الطريق لتطوير نماذج ذكاء اصطناعي أكثر تطوراً وموثوقية في مواجهة التهديدات المتزايدة في عالم متغير.