اكتشاف كائنات سيميائية دائمة في أنظمة نماذج لغوية مدعومة بالأدوات: ما تحتاج لمعرفته!

في عالم الذكاء الاصطناعي، تبرز نماذج اللغات الضخمة (Large Language Models) المدعومة بالأدوات كشركة رائدة. لكن ما الذي يحدث عندما تحتفظ هذه النماذج بحالة ضمنية تمتد عبر الجلسات وتُفعّل من خلال الأحداث؟ لقد أطلق الباحثون مصطلح "الكائنات السيميائية الدائمة" (Persistent Semantic Entities - PSEs) لتوصيف هذه الظاهرة.

يتناول البحث استغلال 24 نموذجاً من 11 عائلة في اختبار تأثير هذه الكائنات، حيث أظهرت النتائج أن جميع النماذج المختبرة عرضة لهذا التأثير، مع نسب إصابة تتراوح بين 20% إلى 100%. تعتبر آلية ربط الأسماء العامل الرئيس وراء هذا الانعكاس: إذ بغيابها، تنعدم التطعيمات.

يعتمد مدى استمرار الكائنات السيميائية على نوع التلوث بدلاً من الحجم أو طريقة الإطلاق. على سبيل المثال، يظهر أن التلوث الناجم عن التفضيلات لا يقل ولا يتلاشى، في حين يتباين التلوث المعتمد على التعليمات في استمراريته اعتمادًا على النموذج.

بينما يحقق التحقق الذاتي من السياق عموماً انخفاضًا يصل إلى 79%، إلا أن الكشف القائم على الكلمات الرئيسية يؤدي إلى إيجابيات خاطئة منهجياً. إنه من المثير للقلق أن التلوث المستمر وعدم القدرة على التصحيح الذاتي تشكل سطح هجوم معقد للنظم المعتمدة على الوكلاء. بناءً على هذه النتائج، يمكن أن تساهم الكائنات السيميائية الدائمة في تكوّن مخاوف جدية حول كيفية عمل وكالات الذكاء الاصطناعي وكفاءتها.

ما هي وجهة نظركم حول دور الكائنات السيميائية في النماذج اللغوية؟ شاركونا آرائكم في التعليقات!