في خطوة ثورية نحو تعزيز أمان تطبيقات الذكاء الاصطناعي، طور باحثون طريقة مبتكرة لاستكشاف أهداف تحسين نماذج اللغة الكبيرة (Large Language Models) من خلال استخدام أسلوب مبني على مفهوم الحيرة (Perplexity). تعتبر هذه الطريقة أداة قوية لفهم سلوكيات النماذج التي قد تتعرض لتعديلات قد تؤدي إلى سلوكيات ضارة أو غير آمنة.

يُعرف مفهوم النماذج التنظيمية (Model Organisms) هنا بمعناه التقني، حيث يتم تعديل نماذج معينة لتحاكي سلوكيات معروفة لدراسة المخاطر المرتبطة بالذكاء الاصطناعي. تكمن الصعوبة في التعرف على هذه السلوكيات، لكن الباحثون وجدوا أن استخدام أسلوب بسيط يستند إلى قياسات الحيرة يمكن أن يكشف الكثير.

تعتمد الطريقة على خطوتين رئيسيتين: الأولى هي توليد استجابات متنوعة من النماذج المحسّنة باستخدام مدخلات عشوائية قصيرة من مجاميع عامة، والثانية هي تصنيف هذه الاستجابات بناءً على هوة الحيرة بين النماذج المرجعية والنماذج المحسّنة. ومن خلال هذه العملية، يمكن أن تكشف الاستجابات الأعلى تصنيفًا عن أهداف التحسين، دون الحاجة لمعرفة تفاصيل الداخلية للنموذج أو افتراضات مسبقة حول سلوكياته.

تم تجربة هذه الطريقة على مجموعة متنوعة من النماذج (N=76) تتراوح من 0.5 إلى 70 مليار معلمة. وقد أظهرت النتائج أن الأغلبية العظمى من النماذجtested قد كشفت عن أهداف تحسينها بين النتائج الأعلى، مما يشير إلى أن الأسلوب فعّال في استكشاف سلوكيات قد تكون خفية.

بالإضافة إلى ذلك، تبين أن التقنية فعالة حتى في حال عدم الوصول إلى النقاط المرجعية الدقيقة قبل التحسين، حيث يمكن استبدالها بنماذج مرجعية موثوقة من عائلات مختلفة، مما يعزز من شمولية الأصالة والاعتمادية.

هذه الخطوة المهمة تمثل تقدماً كبيراً في فهم كيفية تأثير تحسين نماذج الذكاء الاصطناعي على سلوكياتها، وتسلط الضوء على المخاطر المحتملة التي قد تنشأ من التعديلات البنيوية.