في عالم الذكاء الاصطناعي، يتساءل الكثيرون حول ما إذا كانت نماذج اللغات الكبيرة (Large Language Models) قادرة على التحكم في تمثيلاتها الداخلية، وهو سؤال يمس صميم موضوعات مثل الوعي الفوقي للنماذج وسلامة الذكاء الاصطناعي. في هذا السياق، قامت دراسة حديثة بتطبيق طريقة التغذية الراجعة العصبية (neurofeedback) على هذه النماذج لتحليل قدرتها على التحكم في تلك التمثيلات.

على الرغم من الادعاءات بأن هذه النماذج يمكن أن تضبط تمثيلاتها الداخلية، يشير الباحثون الآن إلى أن التحكم المُبلغ عنه قد لا يعتمد على وصول حقيقي إلى المعلومات الداخلية، بل قد يرجع إلى آليات سطحية. إذ أن الأهداف التي تم تحديدها للسيطرة في الدراسة السابقة لم تكن محمية، مما يعني أنه يمكن لطرف ثالث استنتاجها من الإيعاز (prompt).

لذلك، أعادت الدراسة تصميم نموذج التغذية الراجعة العصبية بما يتماشى مع متطلبات الوصول المحمي، مما يقترب من تجارب التغذية الراجعة العصبية المعروفة في علوم الأعصاب المعرفية لدى البشر. في هذه البيئة الأكثر صرامة، لم تقدم النماذج إثباتًا موثوقًا على قدرتها في السيطرة على تمثيلاتها الداخلية المحمية، مما يوحي بأن التحكم المُعلن عنه سابقًا يحتاج إلى إعادة تقييم.

تشير النتائج إلى أن التقييم الدقيق للوعي الفوقي في نماذج اللغات الكبيرة يتطلب أساليب تقييم تتطلب وصولاً محميًا. فهل يمكن أن يمثل هذا التحدي عائقًا أمام التطور المستقبلي للذكاء الاصطناعي؟