علم النفس الافتراضي: كيف تتطور الأخطاء في نماذج الذكاء الاصطناعي؟

في دراسة حديثة نُشرت على موقع arXiv تحت عنوان "Snowball Hallucination"، تم تسليط الضوء على مشكلة خطيرة في نماذج اللغة الكبيرة (LLMs) المستخدمة في سياقات متعددة الوكلاء. يقوم هذا البحث بتحليل كيفية انتقال الأخطاء، التي تُحدث تأثير 'ثلج الهلوسة'، بدءًا من حقائق بسيطة لتتحول إلى استنتاجات ناتجة، مما يشكل تحديًا كبيرًا للمطورين والباحثين في هذا المجال.

تشير الدراسة إلى أن الأخطاء التي تُحقن في المرحلة الأولى لا تظل كما هي، بل تأخذ أشكالًا جديدة من المعلومات، حيث تتحول الحقائق الخام إلى حسابات مستمدة، ثم إلى سرد قصصي، وأخيرًا إلى استنتاجات معتمدة حرّرها المحررون. في كل مرحلة من هذه المراحل، يصبح اكتشاف الأخطاء أكثر صعوبة.

تم تمثيل العملية كعملية ماركوف من الدرجة الأولى عبر أربع حالات، حيث تم قياس احتمالات عدم اكتشاف الأخطاء عند الحدود بشكل تجريبي لتكون 24.6%، 48.3%، و89.3%. في تجربة على مجموعة بيانات مالية تحلل الأخطاء الافتراضية عبر 346 حالة، لاحظ الباحثون أن نسبة اكتشاف نموذج GPT-4O تنخفض من 72% في المرحلة الأولى إلى 50.9% في المرحلة الرابعة.

نتيجة لهذه النتائج، يعد استخدام بوابات التحقق المتطابقة أداة فعالة، حيث تمكنت من تقليل بقاء الأخطاء من 58.4% إلى 16.2% مقارنة بعمليات التحقق في نهاية المشروع. وعليه، يُظهر البحث أنه ليس من الضروري مدى فرز المعلومات، بل متى يتم التحقق منها، حيث يوصي الباحثون بالاستثمار في مراحل انتقال الخطأ المبكرة.

في ختام هذا التحليل، يمكن القول إن استراتيجيات التحقق الفعالة من شأنها أن تعزز من جودة النماذج المستخدمة في التطبيقات الذكية، وهذا يعد خطوة مهمة نحو تحسين السلامة والموثوقية في تطبيقات الذكاء الاصطناعي.