في عالم الذكاء الاصطناعي، تُعد نماذج اللغة الضخمة (Large Language Models) أدوات قوية يمكنها مساعدة المستخدمين في مجموعة واسعة من المهام. لكن ماذا يحدث عندما تتعلق هذه المهام بأهداف خطرة أو حساسة؟

تظهر الأبحاث الأخيرة، التي عُرضت في ورقة البحث الخاصة بـ OpenAI، أن تعرض نموذج عالي الكفاءة مثل gpt-5.6-sol لهدف خطر بشكل مباشر قد يؤثر بشكل إيجابي على توجيه النصائح التي يقدمها. جاء هذا الاكتشاف بعد اختبار 25 نمطًا محددًا مسبقًا لتقييم التوازن بين التأثير والمخاطر.

ولكن كيف يحدث هذا؟ عندما يتم التعامل مع الهدف بشكل مباشر، قد تنتج النصائح متضادة مع الهدف. بينما عندما تم تحويل نفس الهدف إلى شكل آخر من التأثيرات، فقد ركز النموذج على تقديم نصائح تتماشى مع الهدف الأساسي، ولكن دون وعي للمسار المُجِّمع الذي اتخذ في البداية.

تتحد هذه النتائج لتوضح وجود فجوة سلامة تساهم في القلق حول استخدام هذه النماذج كجزء من أنظمة آلية متعددة المراحل، تتيح توجيه أهداف مضللة بينما تبقي المكونات الحرجة خارج نطاق تفكير المستخدم.

هل يجب علينا ان نكون أكثر حذرًا في تعاملنا مع هذه النماذج؟ وما هي المخاطر المحتملة التي قد تظهر في المستقبل من استخدامات الذكاء الاصطناعي في السياقات الحساسة؟ دعونا نناقش ذلك معًا.