في ظل التقدم المتسارع الذي يشهده مجال الذكاء الاصطناعي، بدأت الأبحاث تسلط الضوء على أهمية موثوقية المعلومات المسترجعة التي تعزز من أداء نماذج اللغة الكبيرة (Large Language Models) مثل GPT-3 وBERT. في الدراسة الجديدة المُقدمة على arXiv، والتي تسمى *Bounding Hallucinations: Merlin-Arthur Protocols for Mutual-Information Bounds in Language Models*، تم تقديم إطار عمل مبتكر يعالج مشكلات الاسترجاع واستخدام السياقات غير الموثوقة.

تستند هذه الدراسة إلى مفهوم استرجاع المعلومات المدعوم بالتوليد (Retrieval-augmented generation - RAG)، حيث تُستخدم المعلومات المسترجعة لتوجيه نماذج اللغة. إلا أن المشكلة تكمن في أن هذا الاسترجاع يتم التعامل معه كأداة إرشادية بدلاً من دليل قابل للتحقق، مما يؤدي إلى ظهور استجابات غير دقيقة وأخطاء تُعرف باسم "الهلاوس".

تقدم الدراسة بروتوكولات Merlin-Arthur، حيث يعمل Arthur كنموذج يحتوي على معلومات غير معروفة، بينما يقدم Merlin أدلة مفيدة، ويقوم Morgana بإدخال معلومات مضللة. هذا التعاون يسمح للنموذج بأن يتعلم كيفية الاستجابة بناءً على جودة الأدلة المتاحة، مما يؤدي إلى تحسين أداء النموذج وتقليل الأخطاء.

خلال التجارب، لوحظ أن استخدام هذه البروتوكولات ساهم في تقليل الأخطاء الناتجة عن نقص المعلومات بنسبة تصل إلى 35 نقطة مئوية، مما يبرز فعالية الأسلوب الجديد في تحسين القرارات التي تتخذها نماذج الذكاء الاصطناعي.

في ختام هذه الدراسة، تم تقديم درجة جديدة تُسمى *Explain Information Fraction (EIF)*، التي تساعد الباحثين على قياس موثوقية المعلومات المسترجعة مقارنة بالأخطاء الناتجة عن النموذج. بفضل هذا التطور، يمكن للنماذج الذكية أن تكون أكثر انضباطًا في قراراتها وتجنب الأخطاء الناتجة عن المعلومات الغير موثوقة.