في عالم الذكاء الاصطناعي، أصبحت نماذج اللغات الكبيرة (Large Language Models) أكثر شيوعًا في الاحتفاظ بالذاكرة الشخصية عبر الجلسات. ومع ذلك، قد تواجه هذه النماذج تعارضات معقدة تنشأ من تفضيلات تعتمد على السياق وسلوك يتطور بمرور الوقت. ماذا يحدث عندما يفتقر استفسار ما إلى السياق أو الزمن أو سلطة المصدر لفهم التعارض؟

بدلاً من أن تعطي إجابة واحدة صحيحة، قد يؤدي اعتبار ذاكرة واحدة كدليل قطعي إلى تحويل تعارض غير قابل للحل إلى إجراء غير مبرر وثقة زائدة. تركز المعايير الحالية عادةً على استرجاع إجابة واحدة من أدلة متضاربة، متجاهلة ما إذا كانت الوكلاء يستطيعون التعرف على عدم التحديد، وحفظ البدائل، والبحث عن المعلومات المفقودة، واختيار الإجراءات المناسبة.

للتغلب على هذه التحديات، قمنا بتقديم Benchmark جديد يُعرف بـ TANGLE (اختصار لـ Testing Agents' Navigation of Genuine, Latent, and Entangled Memory Conflicts)، وهو مصمم لتقييم التعارضات في الذاكرة التي لا يمكن حلها. يتضمن TANGLE 541 حالة عبر 40 شخصية وثلاثة أنواع من التعارض: تعارض ذو سياق مقسم (Context-Partitioned Conflict - CPC)، تعارض تذبذب السلوك (Behavior-Oscillation Conflict - BOC)، وتعارض المصادر المتناقضة (Source-Contradiction Conflict - SCC).

تقييم الأداء في TANGLE يتم عبر مسارين: مسار أوراكل (Oracle Track) للذاكرة المنسقة ومسار قناة (Pipeline Track) يستخرج الذاكرة من حوارات متعددة الجلسات. تتم الدراسة عبر خمسة أبعاد: إدراك التعارض، التفكير السببي، تحديد الثقة، التماس التوضيح، وصحة الذاكرة. تكشف التجارب عن تحديات في مسار القناة، حيث أن استخراج الذاكرة في نهاية المطاف يفشل في الحفاظ على العلاقات التي تحمل التعارض.

تتناول المقارنات بين السياسات النقص في القواعد الثابتة عندما يتوجب أن تعكس الإجراءات التعارض. تتلخص النتائج في ضرورة وجود سياسة تتعامل مع التعارض (Conflict-Aware Action Policy - CAAP)، التي تضبط الإجراءات بناءً على كل تعارض باستخدام الأدلة المتاحة. يساعد TANGLE في إعادة صياغة كيفية التعامل مع التعارضات كتعرف على عدم التحديد، والاحتفاظ بالأدلة المتضاربة، والتصرف دون فرض جواب قاطع.

إذاً، ما رأيكم في هذه التطورات المهمة والتحديات التي يواجهها الذكاء الاصطناعي في معالجة التعارضات؟ شاركونا في التعليقات!