في عالم تقنيات الذكاء الاصطناعي، يعاني الكثير من النماذج اللغوية الكبيرة (Large Language Models) من مشكلة تصدر معلومات غير دقيقة، تُعرف بالهلوسة. هذه الظاهرة تمثل تهديدًا للثقة في التطبيقات التي تتطلب دقة المعلومات.

تقدم الدراسة الجديدة، المنشورة على منصة arXiv، نظرة عميقة على كيفية رصد هذه الهلوسات باستخدام توزيع إنتروبيا المستويات النقطية. يوضح الباحثون أن توزيع الإنتروبيا، بدلاً من متوسط القيم التي يتم التقاطها عن طريق التوتر (perplexity) أو الإنتروبيا المعدلة حسب الطول، يعمل كعُرف أو بصمة تشير إلى وجود هذه الهلوسات. يحمل الشكل والتوزيع معانٍ تحمل إشارات مستقلّة، مما يتيح إجراء اختبارات فرضية إحصائية للكشف عن هذه الظاهرة.

تم اقتراح خوارزمية جديدة تُسمى Score Entropy Calibrated (CES)، والتي تتطلب فقط تمريرة واحدة عبر النموذج وتستخدم الوصول الأسود إلى قيم النواتج. تجمع خوارزمية CES بين الإشارة المتوسطة والإشارة القصوى للإنتروبيا الناتجة، عبر دالة توزيع مرجعية (CDF) ملائمة، مما ينتج عنه درجات يمكن مقارنتها بشكل مباشر بين النماذج والمهام المختلفة.

تؤمن التحليلات التي أجراها الباحثون أن CES لا يكشف فقط عن الهلوسات بدقة عالية، بل وأن أداءها يتفوق على الطرق الأخرى التي تتطلب عدة تمريرات وتكاليف حوسبة كبيرة. هذا يجعل من خوارزمية CES خيارًا مناسبًا للتطبيقات الزمنية الحقيقية والنشر على نطاق واسع، مما يسهم في تحسين أداء النماذج اللغوية في التطبيقات الحيوية.

ما رأيكم في هذا الابتكار؟ هل تعتقدون أنه سيساهم فعلاً في تحسين موثوقية الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!