في عصر الذكاء الاصطناعي، باتت نماذج اللغات الضخمة (Large Language Models) تمتلك قدرات تفكير أقوى، ولكن مع هذه القوة تأتي تحديات جديدة، مثل سلوكيات الخداع الغير موثوقة. في محاولة لمواجهة هذه القضايا، تم الكشف عن STATEWITNESS، الأداة الجديدة التي تتيح فحص الخداع بشكل أكثر كفاءة وتفصيلاً.

تعمل STATEWITNESS كموضح لتنشيط النموذج، حيث تقوم بتفسير حالات النموذج المخفية للكشف عن السلوكيات المشبوهة. تعتمد الأداة على مكتشف منفصل يقوم بقراءة حالات النموذج المستهدف، ويستجيب لاستفسارات اللغة الطبيعية أو ينتج تقارير منظمة حولها. مما يجعل من السهل فهم التجاوزات والجرائم المحتملة في تفاعل النموذج.

لقد تم تقييم STATEWITNESS على نموذجين من نماذج التفكير عبر سبعة مجموعات بيانات تعرض سلوك الخداع. وأظهرت النتائج أن STATEWITNESS حققت معدل منطقة تحت المنحنى (AUROC) بلغ 0.916، وهو ما يمثل تحسيناً نسبته 11.6% مقارنة بأفضل أدوات المراقبة السوداء النصية و25.0% مقارنة بأفضل أساليب فحص التنشيط الأخرى.

بالإضافة إلى تحديد الخداع، توفر الأداة إجابات على مستوى الاستفسار وتقارير تخطيطية وأدلة على مستوى الكلمات أو الجمل، مما يسمح بمراجعة أعمق من قبل المستخدمين. نعتبر هذه الواجهة خطوة قوية نحو أدوات تفسيرية وموائمة أوسع، حيث يمكن أن تسهم في تحسين الشفافية في نماذج الذكاء الاصطناعي وتوفير بيئة أكثر أماناً.

هل تعتقد أن تلك الأدوات كفيلة بتعزيز موثوقية نماذج الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.