في عالم الذكاء الاصطناعي، تتصدر نماذج اللغات الكبيرة (Large Language Models) المشهد، لكن هل يمكن الاعتماد على قراراتها؟ دراسة جديدة تقدم إجابة شاملة على هذا السؤال.

يعتمد اختيار الأدوات والحجج في نماذج (LLMs) على مجموعة من العوامل، بما في ذلك طلبات المستخدم، نتائج الأدوات، السجلات المسترجعة، الذاكرة، ونصوص غير موثوقة. ومع ذلك، يمكن أن تكون الأدلة ذات صلة دون أن تكون موثوقة في اتخاذ القرار، مما يجعل الإجراءات المعتمدة ليست دائمًا قائمة على أدلة مسموح بها.

تقدم الدراسة الجديدة تدقيقًا معينًا يستهدف تحديد مصادر الأدلة بشكل مستقل لكل أداة وهدف. حيث تم تعديل مهمة البحث، مع الاحتفاظ بمقترح ثابت وتغيير فقط مصدر السلطة لمقترح معين.

أجرت الدراسة اختبارات على سلوك النماذج عندما تم تخفيف الأدلة الصحيحة، وحققت تفاعلات في سياقات فرعية كتشخيص ثانوي.

عبر 450 مهمة تهدف للاختيار في بيئة محكومة، أظهرت النتائج أن النماذج الموثوقة وغير الموثوقة تقدم تصرفات مختلفة في 5.4% من الحالات المتنافسة، مقابل 1.7% في الحالات الداعمة.

تحت ظروف تحكمية، تم الاحتفاظ بالتنافس غير المصرح به في نمط أخطاء مختلط وصحيح في 2.4% من المقارنات. تكشف هذه التوجهات عن طبيعة حساسية النماذج لسلطة المصدر النصي، لكن هذه الحساسية لا تمنع الأدلة غير الموثوقة من التأثير على قراراتها.