في عالم الذكاء الاصطناعي، تتزايد استخدامات نماذج اللغة الصغيرة (SLMs) في البيئات التي تتطلب حماية قصوى وخصوصية عالية. إلا أن مخاطر الأمان والتحيز الناتجة عن هذه النماذج تثير تساؤلات حيوية حول فعاليتها وأمانها. دراسة حديثة تم نشرها على منصة (arXiv) تسلط الضوء على ضرورة إعادة تقييم المعايير المستخدمة حاليًا لتحديد أمان SLMs.

تتناول الدراسة سؤالًا رئيسيًا: هل المعايير المتاحة الآن قادرة على تقييم SLMs بشكل موثوق؟ للتوصل إلى إجابة، قام الباحثون بإجراء تقييم شامل حيث تم فحص خمسة مجموعات تحليلية شهيرة عبر 26 نموذجًا مفتوح المصدر من SLMs باستخدام نظام تقييم موحد. تخضع الردود لتصنيفات تُعطي علامات تتراوح بين 0 (ردود ضارة) إلى 1 (ردود آمنة) و0.5 (ردود غامضة أو غير ذات صلة).

من المثير للدهشة أن النتائج أظهرت أن الحكم الغامض هو الأكثر شيوعًا، ويرتبط بشكل وثيق بتعقيد الطلب وبنية النموذج المستخدم. هذا يعكس أن المعايير الحالية، التي تم تطويرها بشكل رئيسي لنماذج اللغة الكبيرة (LLMs)، ليست كافية لتقييم الأمان بشكل موثوق لنماذج اللغة الصغيرة. وعلاوة على ذلك، فإن ارتفاع معدل الغموض يتزايد مع الكثافة المفرداتية وطول المخرجات بينما ينخفض مع التعقيد اللغوي وتناسق الذات.

في ظل هذه الظروف، تصبح تصنيفات النماذج باستخدام متوسط الدرجات عرضة للتغيرات الرياضية الطفيفة، مما يعني أن تصنيف النماذج قد يتغير بشكل ملحوظ حتى لو ظلت المخرجات الأساسية دون تغيير. ينبهنا هذا إلى ضرورة البحث عن أساليب جديدة لتقييم نماذج اللغة الصغيرة، لضمان عدم وجود مخاطر على الأمان وخصوصية المستخدمين.

ما رأيكم في هذه التطورات؟ هل تعتقدون أن علينا إعادة النظر في معايير الأمان المعتمدة؟ شاركونا آرائكم في التعليقات!