في عالم الذكاء الاصطناعي، تتوقع نماذج الرؤية واللغة (Vision-Language Models) أن تقدم استجابات مفيدة في ظل طلبات مناسبة. لكن، ماذا عن الحالات التي تُطرح فيها طلبات غير صحيحة أو غير آمنة؟ هنا تأتي أهمية تقييم «عدم الامتثال الانتقائي» (Selective Non-Compliance)، وهي ظاهرة تتطلب من تلك النماذج التمييز بين ما يجب أن تستجاب له وما يجب تجنبه.

في ورقة بحثية حديثة، تم تقديم KoNA، وهو مقياس جديد مخصص لتقييم عدم الامتثال الانتقائي في نماذج الرؤية واللغة عبر خمس فئات رئيسية: "الفرضية الخاطئة" (False Premise)، "عدم الوصول البصري" (Visual Inaccessibility)، "المعلوم العام" (Universal Unknown)، "إمكانية إتمام المهمة" (Task Feasibility)، و"السلامة" (Safety). يعكس هذا المقياس الفهم العميق للمسؤولية في الذكاء الاصطناعي، حيث يتم اختبار قدرتها على التمييز بين الطلبات التي تحتاج إلى استجابة وتلك التي يجب أن ترفض.

تُظهر التقييمات عبر نماذج متعددة للرؤية واللغة أن العديد منها تفشل في رفض أو تصحيح أو الامتناع عن بعض الطلبات بصورة صحيحة، وتتضح هذه النقطة مع تعقيد الطلبات. ولتجاوز هذا التحدي، تم تعديل نماذج الرؤية واللغة باستخدام أمثلة KoNA لتدريبها على التعرف على مناسبات عدم الامتثال الانتقائي مع الحفاظ على الأداء الجيد في الاستجابات المباشرة.

أظهرت النتائج أن النماذج المعدلة قد حققت تحسينات ملحوظة في دقة عدم الامتثال، مما يدل على قدرتها في التمييز بين المكونات القابلة للإجابة وتلك التي تستدعي عدم الامتثال، وتقديم استجابات ملائمة للمهمة.

وهذا التطور يفتح آفاق جديدة للذكاء الاصطناعي وللتطبيقات التي تتطلب دقة في التعاطي مع البيانات المختلفة، مما يعزز مفهوم الأمان والموثوقية في استجابات الأنظمة الذكية.