هل تعاني نماذج الذكاء الاصطناعي من انحراف أيديولوجي؟ اكتشفوا أسرار الهلوسة في المعلومات السياسية!

في عالم الذكاء الاصطناعي المتقدم، حيث تُستخدم نماذج اللغات الضخمة (Large Language Models) بشكل متزايد للإجابة على استفسارات سياسيّة حساسة، تبرز إشكالية" الهلوسة" كقضية حيوية. تُعتبر الهلوسة، أو التصريحات غير المدعومة في إجابات الأسئلة المستندة إلى الوثائق، علامات تشخيصية على انحراف أيديولوجي، مما يشكل تحدياً كبيراً خصوصاً في الأوساط الانتخابية.

فقد قدم الباحثون مؤطراً قياسياً جديداً يتضمن تحليل عميق لعدد يبلغ 21,727 مقالاً إخبارياً مصنفة من قبل خبراء من مصادر متعددة، تشمل الجانبين اليساري واليميني. وقد ركزت هذه الدراسة على:
1. إنشاء سؤال محدد لكل مقال.
2. استخراج إجابات مستندة إلى الوثائق من ثلاث نماذج LLMs مفتوحة الوزن ونموذج خاص.
3. الكشف عن حالات الهلوسة على مستوى الجمل من خلال مقارنة مرجعية.
4. تصنيف الميول الأيديولوجية للجمل المثيرة للهلوسة.
5. تحليل مخرجات النماذج للكشف عن العلاقة بين عدم اليقين والهلوسة.

تظهر النتائج أن معدلات الهلوسة تختلف بشكل كبير بين النماذج، وتتركز بشكل خاص في المواضيع المثيرة للجدل. ورغم ذلك، يُظهر محتوى الهلوسة انحرافًا ملحوظًا نحو اليسار: حيث يتم تصنيف غالبية الجمل المتأثرة بالهلوسة على أنها ذات ميول يسارية، حتى تلك التي تم إنشاؤها من مصادر تُعتبر يمينية. يكشف التحليل على مستوى المخرجات أن الهلوسات تظهر في سياقات ذات عدم يقين مرتفع، مما يشير إلى أن عدم اليقين يمكن أن يزيد من احتمال التخمين، وهو ما يعمق من الأزمة المرتبطة بدقة المعلومات السياسية المدعومة بالذكاء الاصطناعي.

يتوجب على صناع القرار والمطورين التفكير بعمق في تداعيات هذه النتائج، خاصةً في سياق المعلومات السياسية، حيث تزداد الحاجة إلى الآليات المناسبة لتدقيق المحتوى والمزيد من الضوابط لتجنب الانحراف الأيديولوجي في الأنظمة المستخدمة في السياقات الانتخابية.