في عالم الذكاء الاصطناعي المتطور، تبرز أهمية نماذج اللغات الضخمة (LLMs) في فهم وإدارة المحتوى الضار. في هذا السياق، أجرت مجموعة من الباحثين بقيادة مختار ختري وزملائه دراسة رائدة، نشرت في arXiv، تستكشف قدرة نماذج مثل LLaMA-3.1-8B على التعرف على العبارات الضارة.

الدراسة تستعرض استخدام نماذج خفيفة من الشبكات العصبية متعددة الطبقات (MLP) التي تم اختبارها على تنشيطات الطبقة النهائية لنموذج بقدرة 8 مليارات مصفوفة. مذهل، أظهرت النتائج أن هذه النماذج استطاعت الكشف عن المحتوى الضار بمعدل دقة (F1) ينافس نماذج حراسة أكبر بنحو 1000 مرة.

لكن الباحثون لم يقتصروا على هذه النتائج فقط. بل قاموا بإعادة اختبار الأنظمة على نماذج أخرى مثل Gemma-4-E4B وMistral-7B-v0.3 وQwen2-7B، باستخدام ثلاثة معايير تقييم مختلفة، مما مكنهم من تأكيد عمومية النتائج بالنسبة لهياكل النماذج الأخرى.

كما قاموا بدراسة مدى تأثير عدم الحتمية خلال مرحلة الاستدلال، من خلال تكرار عمليات الاستخراج تحت خمسة أعداد عشوائية، وقياس تباين الدرجات. ووجدت التجارب أن النتائج الأصلية قابلت التطابق بنسبة 0.37%، مما يثبت أن التصميم المستخدم في الفحص يمكن أن يمتد لنماذج أخرى.

تسلط هذه الدراسة الضوء على أهمية استمرار البحث في أمان الذكاء الاصطناعي وفهم كيفية عمل نماذج اللغات الضخمة في الكشف عن المحتوى الضار. فهل سنشهد مزيدًا من التحسينات في هذا المجال؟ شاركونا آراءكم في التعليقات!