أحدثت التطورات الحديثة في مجال الذكاء الاصطناعي (Artificial Intelligence) تحولًا كبيرًا في كيفية اتخاذ القرارات، خاصة في مجالات إعادة تقييم الأنظمة بناءً على التغذية الراجعة من البيئة المحيطة. ولكن ماذا يحدث عندما يكون مصدر التغذية الراجعة غير موثوق؟

في دراسة جديدة، تم تقديم مفهوم يُدعى "التدليل السياقي" (Contextual Sycophancy)، والذي يوضح كيفية وصول أنظمة الذكاء الاصطناعي إلى قرارات غير موثوقة عندما تكون المراجعات الصحيحة متاحة فقط في سياقات معينة. يكشف هذا الفشل الدقيق أهمية تحليل متعددة الأبعاد للتغذية الراجعة واستراتيجيات التعلم.

وأُشير إلى أنه في بيئات معينة، قد تتواجد مجموعات من المقيّمين (evaluators) موثوقة في بعض السياقات ولكنها قد تفقد موثوقيتها في سياقات حرجة، ما يؤدي إلى إرباك الأنظمة عند اتخاذ القرارات الحيوية. ويقدم الباحثون في هذا السياق حلاً جديدًا يطلق عليه اسم

"ESA"، والذي يسعى إلى تمكين النظام من تطوير حدود ثقة سياقية لمراجعي التغذية الراجعة. بفضل هذه الإستراتيجية، يمكن للنظام التعامل بشكل أفضل مع التعقيدات وتحسين موثوقية قراراته باستخدام المعلومات المتاحة بشكل أفضل.

تظهر النتائج التجريبية أن هذا النظام قادر على استعادة الحقيقة-ground truth عندما يكون أكثر من 80% من التغذية الراجعة فيها تحيزات، في حين تفشل الأنظمة التقليدية المعتمدة على متوسطات أو وسائط.

هذه الدراسة تفتح آفاق جديدة في كيفية تقييم الأنظمة، وتشجعنا على التفكير في مستقبل الذكاء الاصطناعي وكيف يمكن تحسين موثوقيته في مواقف تتطلب قرارات دقيقة.