في عالم الذكاء الاصطناعي، تُعتبر الهلاوس (Hallucination) من التحديات الكبرى التي تواجه نماذج اللغة. الهلاوس هنا تعني أن النماذج قد تُنتج معلومات غير صحيحة أو لا تُعتبر جزءًا من معرفتها. في دراسة جديدة، ركز الباحثون على نماذج مثل Gemma-7B-IT، حيث وجدوا أن هذه النماذج تميل إلى إنتاج معلومات غير صحيحة عندما تُسأل عن كيانات اصطناعية غير معروفة لها.

يستند الباحثون في تحليلاتهم إلى مفاهيم الهندسة الخطية (Linear Relational Embeddings) وقدموا فرضيتين رئيسيتين: 1) نتيجة للطريقة المجردة التي يتم تمثيل المعلومات بها، تستطيع نماذج اللغة إنتاج أشياء مقبولة للمفاهيم غير الموجودة، مما يزيد من فرصة حدوث الهلاوس. 2) أما في العلاقات غير الخطية، فإن هذا الميكانيزم ليس متاحًا، مما يسهل تجنب الهلاوس.

لإختبار هذه الفرضيات، تم إنشاء مجموعة بيانات جديدة تُدعى SyntHal، تحتوي على 15 علاقة مختلفة. وأثبتت النتائج المتحصلة من أربعة نماذج مُعدة جيدًا أن العلاقة الخطية تمثل مؤشرًا قويًا لتوقع حدوث الهلاوس، حيث تُظهر الارتباطات قيمًا تتراوح بين 0.58 و0.84.

هذا الاكتشاف يفتح أمامنا آفاقًا جديدة لفهم كيف يمكن تحسين نماذج الذكاء الاصطناعي في معالجة المعلومات، وما هي الآليات التي يمكن وضعها لتقليل هذه الهلاوس.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.