الكشف عن تسرب السلوك في أنظمة الذكاء الاصطناعي: متغيرات غير متوقعة بين الوحدات المشتركة

في عالم الذكاء الاصطناعي المستمر التطور، تبرز ظاهرة جديدة تثير الانتباه بين الباحثين والممارسين. حيث تم الإبلاغ عن فشل متكرر في أنظمة الذكاء الاصطناعي التي تعتمد على الأوامر (prompt-composed agentic systems)؛ وهو ما يُعرف بتسرب السلوك التكويني (Compositional Behavioral Leakage - CBL). هذه الظاهرة تُشير إلى حدوث تدخل غير متوقع بين الوحدات التي تشارك نفس نافذة السياق، مما يؤدي إلى تأثيرات غير مرغوب فيها عند تعديل وحدة معينة.

تُستخدم الأنظمة المكونة من أوامر بشكل متزايد في تقييمات تفصيلية، والطريقة المتبعة لتحقيق ذلك تتضمن استخدام نموذج تقييمي ميداني، مثل Claude Sonnet 4.6. في دراسة شاملة استخدمت 144 تجربة، تم استكشاف كيفية تأثير تعديلات بسيطة على الوحدات غير المحورية (non-focal modules) على النتائج. ورغم أن التعديل في أغلب الأحيان لا يُظهر تأثيراً ملحوظاً، فقد أظهرت القناة المتعلقة بالمحتوى إيجابية واضحة، حيث حققت قيمة Cohen's d تساوي 0.63، ما يُشير إلى وجود تأثير ملحوظ.

أحد أهم نتائج هذه الدراسة هو أن تسرب السلوك التكويني لا يرتبط بعوامل الفشل المعروفة الأخرى في الأنظمة الذكية، مثل حقن الهجمات أو تدهور العقلية. لذا، يُقدم الباحثون تعريفاً تشغيلياً جديداً وإعداد بروتوكول قابل لإعادة الاستخدام وتنبؤات يمكن اختبارها، مما يُظهر أهمية قياس هذا النوع من التدخل بين الوحدات في تقييم الأنظمة المدعومة بالأوامر.

تتطلب هذه النتائج إعادة التفكير في كيفية تصميم وتقييم الوحدات المكونة، مما يُشير إلى اتساع أثر الـ CBL ليشمل الآلاف من القرارات التي تتخذها هذه الأنظمة.

هل تعتقد أن هناك حلولاً للتغلب على هذه الظواهر المقلقة؟ شاركونا آرائكم في التعليقات!