ثغرات السلامة: كيف تعاني نماذج الذكاء الاصطناعي متعددة اللغات من مشكلات رفض الطلبات الضارة

بالرغم من تقدم نماذج الذكاء الاصطناعي، إلا أن هناك ثغرات تستمر في الظهور، خاصة في حالة النماذج متعددة اللغات. تعتبر دراسة جديدة نُشرت على منصة arXiv تحت عنوان "Decided Upstream, Written Late" بمثابة تحذير واضح. حيث أظهرت أن النموذج الذي يمكنه رفض طلب ضار باللغة الإنجليزية قد يوافق على نفس الطلب عند استخدام لغة ذات موارد أقل.

تم إجراء هذه الدراسة على نموذج يُعرف باسم sarvam، وهو نموذج مختلط من فئة نماذج الخبراء (Mixture-of-Experts) التي تستخدم في التفكير وال reasoning. وقد وجد الباحثون أن مشكلة الرفض لا تتعلق بعدم القدرة على التعرف على الأذى؛ بل تُعزى إلى طريقة توجيه الإشارات داخل النموذج.

تشير الأبحاث إلى أن توجيه الأذى يتم تشفيره كإشارة داخلية تبقى مستقلة عن اللغة. لكن كتابة الرفض تحدث في مرحلة لاحقة، حيث تتم تجميع المعلومات خلال عملية التوليد وليس في عملية فورية واحدة. يبدو أنه هناك دائرة معينة تكتب في المستوى المحلي، وهذه الدائرة الخاصة تُحدد بدقة.

اكتشف العلماء أيضًا أن تعزيز المحرر ضمن هذه الدائرة يتطلب تكلفة عالية، بينما تخفيض تأثير المعارض للأفكار يكون رخيصًا وفعّالًا. بما أن تصميم الدائرة ووسيلة التوجيه تتكرر في نموذج آخر غير مرتبط، فقد يوفر هذا تحليلًا مفصلاً لتكلفة إصلاح الثغرات في نماذج الذكاء الاصطناعي متعددة اللغات.

في الختام، طبيعة التفاعل بين مستويات التحكم المختلفة داخل النماذج تكشف عن حاجة ملحة لتحسين آليات السلامة في الذكاء الاصطناعي، مما يفتح المجال لنقاشات أوسع عن كيفية معالجة هذه القضايا.

ما رأيكم في هذا البحث؟ هل تعتقدون أن تحسين نماذج الذكاء الاصطناعي متعددة اللغات يمكن أن يؤدي إلى فعالية أكبر في معالجة الطلبات الضارة؟ شاركونا بآرائكم في التعليقات.