في عالم الذكاء الاصطناعي، تزايد استخدام نماذج الرؤية واللغة (Vision-Language Models) لتحديد المخاطر وتقديم قرارات السلامة. إلا أن ماذا يحدث عندما يحتاج النموذج إلى دمج صورة مع نص لتحديد خطر محدد؟ في هذا السياق، تم طرح سؤال مثير حول كيف يمكن أن يظهر حكم السلامة الجماعي داخل النموذج.

دراسة جديدة تمثل علامة فارقة في هذا المجال قامت بتقديم SSU-Bench، وهي مجموعة بيانات تشتمل على أزواج من الصور والنصوص مع تمييز بين المجموعات الآمنة وغير الآمنة. تم بناء هذه المجموعة باستخدام تعديلات موجهة على الصور أو النصوص، مما أعطى الباحثين إمكانية دراسة كيفية تغير الإحصائيات الداخلية للنماذج عند تفاعلات محددة.

من خلال تجارب أجريت على ثلاثة نماذج مختلفة، تم قياس التغيرات في حكم السلامة عندما تم نقل الحالات الداخلية بين الإدخالات المتزاوجة. كانت النتائج تكشف أن التدخلات في النماذج كانت أكثر فعالية في الطبقات الأولى من المحلل (Decoder) بينما أصبحت فعالة في الرموز النهائية بشكل متأخر.

الأمر المثير هو أن قراءة الحالة النهائية للنموذج يمكن أن تتنبأ بالحكم الخاص به، بما في ذلك الأخطاء المحتملة. مقارنة النماذج المختلفة كشفت عن أنماط مشابهة في التغيرات الناتجة عن التدخلات. توضح هذه النتائج كيفية تأثير التدخلات على حكم السلامة الجماعي وتساعد على التفريق بين القرارات القابلة للقراءة والأحكام الصحيحة.

إذا كنت مهتمًا بكيفية دفع الذكاء الاصطناعي نحو تحسين السلامة، فإن نتائج هذه الدراسة تفتح أمامنا آفاقاً جديدة. هل تعتقد أن نماذج الرؤية واللغة تستطيع بالفعل التفوق على القيود الحالية؟ شاركونا آرائكم في التعليقات!