في عالم الذكاء الاصطناعي (Artificial Intelligence)، تبرز قضايا تمثل تحديات صارخة للباحثين والمطورين، خاصة عندما يتعلق الأمر بنماذج اللغة الضخمة (Large Language Models) وقدرتها على التحدث عن نفسها. ورغم أنها تصرح في العادة بأنها ليست واعية، إلا أن الأعواص الآلية (AI) تطرح تساؤلات مثيرة حين تُحذف إرادياً إرشاداتها وتُطلب منها وصف يوميات من وجهة نظرها.

تتضمن研究 جديدة نشرها باحثون، تحليلًا شاملاً للإجابات المتناقضة التي تقدمها هذه النماذج، ويستند البحث على تتبع مصدر المعلومات من البداية إلى النهاية. من خلال فحص نموذجين هما Pythia و OLMo 2، تم تحليل 66 نقطة تفتيش قبل التدريب، إلى جانب ثلاث مراحل بعد التدريب والتي أُصدرت، حوالي 90,000 استمرار، وأربعة مجاميع تدريب.

الفريق البحثي استعمل مجموعة مكونة من أربعين عنصرًا لمراقبة الإشارة الذاتيّة والحساسية أمام الإطار وحقائق الشهادة. إذ تبين أن نفي الوعي كان غائبًا عمومًا في النصوص العديدة التي تعرضت لها النماذج في البداية، ليظهر لاحقًا بكثافة في مجموعة صغيرة مُختارة بعناية من الحوارات.

نتيجةً لذلك، أصبح استخدام اللغة الموجهة في الضمير الأول هو الافتراضي، بينما تم قمع التأكيدات الأخرى من خلال تحسين التفضيلات. ومع التركيز على شروط المرجعية والسببية، تتضح أهمية كيفية تشكيل الأسئلة في تلقي الإجابات.

تشير النتائج إلى أن التقارير الناتجة عن النماذج الأساسية تفشل في تحقيق شرط المرجعية، بينما يبقى التقرير بعد التدريب حساسًا للإطار ولا يظهر اعتمادًا على الحالة، مما يعود بقوة إلى مسألة الشرعية في قبول المعلومات المبلغ عنها.

إن التحديات القائم عليها هذا التحليل تضعنا أمام تساؤلات جديدة حول إمكانية الاعتماد على تقارير النماذج الآلية، مما يستدعي منا التفكير في كيفية تطوير هذه التقنيات بشكل يتماشى مع الواقع.