في عالم الذكاء الاصطناعي، باتت الهلاوس (Hallucinations) - وهي مخرجات غير قابلة للتحقق أو تتعارض مع المصدر الأصلي - تُعتبر عيبًا هندسيًا يجب معالجته. لكن، ماذا لو كانت هذه الهلاوس تحمل في طياتها أهمية فلسفية تتعلق بسؤال وعي الآلات؟

تناول بحث حديث هذه الهلاوس، مستعرضًا الأسباب المعروفة وراء ظهورها في نماذج اللغات الضخمة (Large Language Models)، مثل تباين المصدر والهدف، وعدم التوافق بين التدريب والاستدلال، وزيادة التعقيد (Overfitting). يتضمن البحث تحقيقين تجريبيين يستكشفان تأثير إعدادات النماذج.

في التحقيق الأول، تم تطبيق جيل متتابع من نموذج GPT على أسئلة غامضة تحت درجات حرارة مختلفة، حيث أظهرت النتائج أن درجات الحرارة العالية تؤدي إلى إجابات مقنعة لكنها خاطئة، بينما تؤدي الدرجات المنخفضة إلى إجابات دقيقة. وقد لوحظ أن المعلمات التي تجعل النموذج يبدو مبدعًا أو عفويًا، مما يزيد من احتمالية تجاوزه للاختبارات السلوكية للذكاء، هي نفس المعلمات التي تؤدي إلى زيادة نسبة الهلاوس لديه.

أما في التحقيق الثاني، فقد استعرضنا نموذجًا يعتمد على الترميز فقط، تم تدريبه على بيانات موسوعية، وقام بالإجابة بدقة ودون embellishment (تزيين) على نفس النوع من الأسئلة، مما يدل على أن الهلاوس تنشأ نتيجة التعرض لبيانات تدريب ذات طبيعة ذاتية واجتماعية متنوعة بدلاً من أن تعكس أي قدرة معرفية.

باستخدام مراجع لتاريخ الفلسفة مثل تيرينغ (Turing)، وغرفة سري (Searle's Chinese Room)، ومشكلة الإطار (Frame Problem)، والتقليد السيبرنيتيكي لوينر (Wiener) وآشبي (Ashby)، نخلص إلى أن تقارير النموذج الذاتية عن المشاعر أو الوعي تقع ضمن تعريف الهلاوس، وأن أي ظهور مستقبلي لوعي الآلة قد يظل غير قابل للوصول الإبستيمولوجي لأنه سيكون indistinguishable (غير قابل للتمييز) عن هلاوس متطورة بشكل كافٍ.