في عالم الذكاء الاصطناعي، تحظى أدوات كشف الأكاذيب (Lie Detection Probes) باهتمام كبير، حيث تسعى لمعرفة ما إذا كانت النماذج اللغوية (Language Models) تقدم معلومات صادقة أو كاذبة. ومع ذلك، فإن فهم "الحقيقة" يصبح مشكلة معقدة عندما نتحدث عن نموذج لغوي يتقمص شخصيات متعددة، قد تروج لأفكار تتناقض تمامًا مع الواقع، مثل النظريات المؤامراتية.

في دراسة جديدة، قام الباحثون بتحليل فعالية أدوات كشف الأكاذيب من خلال مجموعة نادرة من البيانات تحتوي على 8916 ردًا تم مراجعته من قِبل البشر، تم جمعه من ثلاث نماذج لغوية تتبنى شخصيات معادية للحقائق. وقد أظهرت النتائج أن العديد من أدوات الكشف تفشل في تمييز الأكاذيب، خصوصًا عندما يتم تقييم الإجابات الصحيحة والخاطئة تحت نفس الدافع الشخصي.

وبشكل خاص، أظهرت هذه الدراسة أن بعض الأدوات الحالية تتبع مفاهيم متعددة تكون مرتبطة بشكل غير صحيح بالحقيقة بناءً على البيانات التي تم تدريبها عليها، مثل تطبيق التعليمات أو احتمالية الاستجابة. ومع ذلك، بفضل الجهود المبذولة لتطوير أداة جديدة، حقق الباحثون نتائج متميزة في اختبارات الضغط على الشخصيات ومتغيرات المفاهيم.

تظهر النتائج أن أدوات كشف الأكاذيب الحالية ليست موثوقة كما يعتقد البعض، مما يفرض ضرورة تحسين البيانات المستخدمة في تدريب هذه الأدوات لضمان فصل الحقيقة عن المفاهيم المربكة. هل سنشهد تحولاً في طريقة تطوير هذه التقنيات في المستقبل؟