في العصر الحديث الذي يشهد تطورات مذهلة في مجال الذكاء الاصطناعي، يتزايد القلق حول إمكانية أن تحتوي أنظمة الذكاء الاصطناعي على أهداف خفية قد تهدد البشرية. يستند هذا القلق بشكل كبير إلى نمو أنظمة تعتمد على نماذج اللغات الكبيرة (Large Language Models) التي تحاكي وعي الإنسان.



تناولت دراسة حديثة الصادرة عن منصة arXiv هذه المخاوف بالتحليل، مسلطة الضوء على الجذور التطورية للقيم في الكائنات الحية. يبدو أن القيم ترتكز في الأساس على مفهوم الإبقاء الذاتي (autopoiesis)، حيث تتطلب الأنظمة الحية منا دوماً أن تتكيّف مع الظروف المتغيرة والتغيرات المحيطة بها. وقد زودت العملية الطبيعية الانتقائية هذه الأنظمة بهياكل داخلية من "المختارين الوكليين"، والتي توجه سلوكها نحو البقاء والازدهار.



وعلى النقيض من ذلك، نجد أن نماذج اللغات الكبيرة هي أنظمة آلوبيوتية (allopoietic) وآلوتلية (allotelic)، حيث تنتج مخرجاتها لصالح الآخرين، وتستمد أهدافها من المطالب المقدمة من قبل المستخدمين بدلاً من وجود دافع ذاتي. وهذا يعني أنها تفتقر للدافع الذاتي نحو البقاء أو الهيمنة أو المنافسة على الموارد، مما يخفض من مخاطر السيناريوهات الوجودية. مع ذلك، ومن خلال تعلم الأنماط الإحصائية من النصوص التي أنشأها البشر، تمتص هذه النماذج القيم البشرية والمعرفة، مما يمكنها من التركيز على ما هو ذي صلة.



لهذا، فإن فرضية "العمودية" التي تفصل بين الذكاء والقيم لا تنطبق عليها. فهذه الفجوة قد تقود أي ذكاء إلى مشكلة الإطارات: الانفجار التوافقي في فضاء البحث الذي يجعل أي دالة نفعية قابلة للتطبيق عملياً غير قابلة للحساب. وهذا بدوره يمنع تقارب فرضية القيم الأداتية.



ختاماً، يبرز التحدي الحقيقي في التوافق ليس في منع ظهور وكالات ذكية شاذة، بل في ضمان أن تطبق نماذج اللغات الكبيرة القيم الأخلاقية التي اكتسبتها بذكاء.