تعد نماذج التفكير العملاقة (Large Reasoning Models) من أبرز التوجهات في الذكاء الاصطناعي، حيث تحقق إنجازات ملحوظة في المهام المعقدة. إلا أن هذه النماذج لا تزال عرضة للإدخالات الضارة التي قد تؤدي إلى نواتج غير آمنة. على الرغم من أن الأساليب الحديثة تركز على توافق نماذج التفكير العملاقة باستخدام الرفض المباشر أو الحجج الأمنية، إلا أنها غالبًا ما تتمحور حول نمط الإدخال بدلاً من معالجة آليات الهجمات الداخلية.

في هذا السياق، يقدم الباحثون تقنية جديدة تُدعى "AdvSafe"، وهي إطار عمل ثنائي يُمكن نماذج التفكير العملاقة من استيعاب المعرفة بعدم الأمان من خلال فك التشفير الصريح لآليات الهجمات. هذه الشيفرة تتخطى الآثار المعتمدة على الأنماط، مما يعزز الدفاعات المعرفية دون المساومة على فائدة التفكير.

يتكون نظام "AdvSafe" من مرحلتين رئيسيتين في اللعبة المعادية. أولًا، في مرحلة "التركيب المعادي"، يقوم وكيل ذاتي بابتكار إدخالات خادعة تفصيلية، معدّلًا استراتيجياته لاختراق نموذج المعلم القوي. ثانيًا، تأتي مرحلة "الاستخراج المعادي"، حيث يقوم المعلم المتجاوز بتنفيذ هجوم مضاد معرفي.

كلما تم نجاح إدخال خادع، يكشف المعلم عن الأسبار المستخدمة، موضحًا سبب نجاح الهجوم وكيفية التعرف على مثل هذه الإدخالات والتخفيف منها. تساهم هذه العملية الثنائية في توفير مجموعة بيانات تفكير مضغوطة تلتقط المعرفة الجيدة عن المخاطر العامة.

النماذج الطلابية المدربة على هذه المجموعة تلقائيًا تكتسب توافقًا أمنيًا من خلال الفهم الداخلي للتهديدات. تبين التجارب أن نماذج "AdvSafe" المحسّنة تحقق نتائج فائقة في القوة المعادية، مع الحد الأدنى من تدهور الفائدة. كذلك، يعزز الأسلوب المتبع من القوة في مواجهة الإدخالات الخارجة عن التوزيع، مما يدل على أن التعلم العميق حول عدم الأمان يمكن أن يصبح نقطة تحول في موازنة القوة والفائدة.

ما رأيكم في هذا التطور في أبحاث الذكاء الاصطناعي؟ شاركونا في التعليقات!