في عالم الذكاء الاصطناعي، تعتبر نماذج اللغة الكبيرة (Large Language Models) إحدى الأدوات الأكثر شيوعًا، ولكن هناك تحديات كبيرة تواجه هذه النماذج عند التعامل مع المحتوى العربي. تقدم دراسة جديدة شاملة نظرة فريدة حول كيفية تعامل هذه النماذج مع المحفزات الضارة، حيث يجب عليها أن ترفض المحتوى الضار دون أن تتسبب في إهمال المحفزات الحساسة أو الضرورية.

تسلط الدراسة الضوء على مفهوم "الرفض الانتقائي"، حيث تم اختبار خمس نماذج تمتلك القدرة على التعامل مع اللغة العربية، مع القيام بـ130 اختبارًا على مجموعة بيانات AraSafe التي كتبها البشر. وقد دعمت النتائج مفهوم أن التدريب على الرفض فقط (refusal-only supervised fine-tuning) يؤدي في بعض الأحيان إلى اتجاه نحو الرفض الشامل. وفي الوقت نفسه، أظهرت بعض الإعدادات المختارة من التدريب المختلط (selected mixed-SFT) مرونة أكبر، حيث وصلت معدلات الرفض للمحفزات الضارة (H) إلى 90% إلى 93% مع بقاء معدلات الرفض للمحفزات غير الضارة (B) في حدود 14% إلى 23%.

الجدير بالذكر، أنه في اختبارين مع الأجوبة التي سلمت بصورة عمياء، حصل اتفاق المساهمين على الرفض الثنائي على نسبة 89.0%، مما يؤكد دقة النماذج. ومع ذلك، لم تصل أي من النماذج إلى مستوى 90% من الرفض في الاستخدام اليومي للغة العربية الحديثة، مما يشير إلى ضرورة تحسين بعض النماذج.