في عالم الذكاء الاصطناعي، لا يزال التحسين من موثوقية النتائج التي تقدمها نماذج اللغات الضخمة (LLMs) أمراً مهماً. وقد تم الكشف في دراسة جديدة عن تقنية مبتكرة تحمل اسم INTRYGUE، التي تهدف إلى تعزيز دقة تقدير الشكوك المرتبطة بالاسترجاع المُعزّز (RAG).

على الرغم من أن الاسترجاع المُعزّز قد حسّن بشكل كبير من موثوقية المعلومات في هذه النماذج، إلا أنه لا يزال يعاني من ظاهرة "الهلاوس"، حيث يظهر النموذج معلومات مضللة. ولذا، يُعتبر تقدير الشكوك (UQ) عنصراً أساسياً لضمان موثوقية هذه النماذج.

ومن خلال البحث، تم الكشف عن أن الأساليب التقليدية في تقدير الشكوك تعتمد على مفهوم الانتروبيا (Entropy)، وغالبًا ما تفشل في تحقيق النتائج المرجوة في سياقات RAG بسبب ما يُعرف بـ"تناقض ميكانيكي". يتمثل هذا التناقض في صراع داخلي يتعلق بكيفية استخدام السياق، إذ تعزز "رؤوس الاستنتاج" (Induction Heads) التفاعلات الصحيحة بينما تؤدي بشكل غير مباشر إلى تنشيط "الخلايا العصبية الانتروبية"، مما يصحبه تضخيم في تقدير الشكوك.

وبهدف معالجة هذه المشكلة، قدم الباحثون تقنية INTRYGUE التي تستخدم أسلوب تنشيط بناءً على الأنماط النشطة لرؤوس الاستنتاج. تم اختبار هذه التقنية عبر أربعة معايير من RAG وستة نماذج مفتوحة المصدر تتراوح أعدادها بين 4 مليار إلى 13 مليار معلم.

أظهرت النتائج أن INTRYGUE تحقق نتائج مُرضية، بل وتقارن أو تتجاوز العديد من الأساليب التقليدية. ويُظهر هذا البحث كيف يمكن تعزيز اكتشاف الهلاوس في RAG من خلال دمج تقدير الشكوك التنبؤية مع إشارات داخلية واضحة تتعلق باستخدام السياق.

في النهاية، تبدو تقنية INTRYGUE بوابة جديدة نحو تحسين دقة نماذج الذكاء الاصطناعي في تقدير الشكوك، مما يعزز من موثوقية النتائج المقدمة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.