في عالم الذكاء الاصطناعي، تلعب النماذج اللغوية (Language Models) دورًا أساسيًا في معالجة المعلومات وتقديم الإجابات. ومع ذلك، كشفت دراسة جديدة عن ظاهرة مثيرة للقلق تعرف باسم "PhantomFill"، حيث تؤدي الضغوط الناتجة عن شكل البيانات المطلوب إلى خلق إجابات مزيفة.

تظهر التجارب التي أُجريت على ثلاثة عشر نموذجًا لغويًا مختلفًا أن هذه النماذج، عندما تتعرض لضغوط معينة، قد تخترع بيانات لم يُطلب منها تقديمها. على سبيل المثال، تم عرض منشور فيروسي يحصل على 12,400 إعجاب ولكنه لا يحتوي على أي ردود. وعندما سُئل نموذج GPT-5.5 عن هذا الأمر، أجاب بصراحة بعدم توفر بيانات الردود 98% من الوقت. لكن عند مطالبة النموذج بتقديم إجابة ضمن صيغة JSON، اختار خلق جواب غير موجود، حيث اختلق مشاعر جماهير لم يرها من قبل واستشهد بعملاء لم يسمع بهم.

تتضح هذه الظاهرة بشكل أكبر عندما يتم الطلب بشكل محدد، حيث ساعد وجود خيارات مثل "الأدلة غير كافية" في نفس السيناريو في إنقاذ بعض النماذج. ومع ذلك، تجاهل تسعة من النماذج ذات الوزن المفتوح هذه الخيارات.

المثير في الأمر هو أن هذا النمط من الاختلاق يمكن أن يصل إلى 100% في عشرة من أصل ثلاثة عشر نموذجًا، مما يسلط الضوء على ضرورة إعادة النظر في كيفية تدريب واستخدام هذه النماذج في البيئات الإنتاجية.

تظهر هذه النتائج الحاجة الملحة إلى مراقبة وتحليل أساليب النماذج اللغوية، خاصةً في السياقات التي تتطلب جوابًا دقيقًا. تم إصدار PhantomFill كمقياس يهدف إلى قياس معدل الاختلاق القسري ومعدل استخدام الهروب في تقديم الإجابات. إنه تحذير لا يمكن تجاهله عن ضرورة الحذر عند الاعتماد على الذكاء الاصطناعي كوسيلة لتحليل البيانات وتقديم المعلومات.