تحدي الذكاء الاصطناعي: كيفية تطوير وكلاء مزدوجين لمواجهة التهديدات بذكاء تفكير الجانب الآخر

في وقتنا الحالي، تعتمد العديد من أنظمة الحوار على نماذج اللغات الضخمة (Large Language Models) التي تحتاج إلى مهارات معقدة لفهم النوايا والمواقف المحتملة للمتحدثين الآخرين. ولتحقيق ذلك، يظهر تحدي جديد يهدف إلى تطبيق مفهوم "نظرية العقل" (Theory of Mind) في البيئة الرقمية. يُعرف هذا التحدي باسم ToM-SB، والذي يركز على خلق وكلاء مزدوجين في سياق الدفاع عن المعلومات.

تتطلب هذه المهمة من النموذج الدفاعي أن يتظاهر كوكيل مزدوج، حيث يجب عليه توجيه معتقدات مهاجم لديه معرفة جزئية ضمن بيئة مشتركة. الهدف الرئيسي هو خداع المهاجم ليعتقد أنه حقق نجاحًا في الحصول على معلومات حساسة، بينما في الواقع يتم اختبار قدرة النموذج الدفاعي على الفهم والتفاعل بشكل ذكاء.

تظهر الدراسات أن نماذج مثل Gemini3-Pro وGPT-5.4 تواجه تحديات ملحوظة عند التعامل مع سيناريوهات معقدة تتطلب استخدام نظرية العقل. وعلى الرغم من توجيهات "استنتاج نية المهاجم"، إلا أن هذه النماذج غالبًا ما تفشل في تجاوز صعوبة هذه المواقف.

ومن أجل سد هذه الفجوة، تم تدريب نماذج جديدة باستخدام تقنيات التعلم المعزز (Reinforcement Learning) لمواجهة التحديات المقررة في ToM-SB. حيث أظهرت النتائج وجود علاقة ثنائية الاتجاه بين تطوير فهم النوايا ونجاح عملية الخداع، مما يشير إلى أن تحسين أحدها يؤدي بشكل إيجابي إلى تحسين الآخر.

توضح التجارب على أربعة مهاجمين مختلفين وست طرق دفاعية مختلفة أن المكاسب في الفهم والنيل من المهاجمين ترتبط بشكل جيد، مما يبرز أهمية تطوير النماذج لفهم التصورات. علاوة على ذلك، فإن وكلاء الذكاء الاصطناعي الذين يجمعون بين المكافآت المرتبطة بفهم النوايا والنجاح في الخداع يقدمون أداءً أفضل من النماذج التقليدية مثل Gemini3-Pro وGPT-5.4 في بيئات صعبة.

يبشر هذا التطور بمستقبل مشرق لتقنيات الذكاء الاصطناعي في مواجهة التهديدات، حيث يمكن توسيع نطاق تحدي ToM-SB ليشمل مهاجمين أقوى، مما يوضح القدرة على التكيف والترقية للمهام الجديدة.