في عالم الذكاء الاصطناعي، تعتبر سلامة وجودة النصوص ذات أهمية بالغة. قد تساهم النصوص غير الآمنة في إنتاج محتويات مضللة وغير دقيقة. ولهذا السبب، قدم الباحثون تقنية جديدة تحت مسمى "الحارس الخفيف الوزن القابل للتفسير" (LEG)، التي تهدف إلى تحديد النصوص الضارة بطريقة مبتكرة وفعالة.

يعتمد نموذج الحارس الخفيف الوزن (LEG) على معمارية تعلم متعددة المهام، تتعلم بشكل متزامن تصنيف النصوص وتقديم تفسيرات حول كلمات النص التي تساهم في قرار السلامة. بعض الميزات المدهشة لـ LEG تتضمن توظيف بيانات تفسيرية اصطناعية تُنتج باستراتيجيات جديدة لمجابهة تحيزات التأكيد في نماذج اللغات الضخمة (LLMs).

واحدة من الجوانب المهمة في تدريب LEG هي استخدام دالة خسارة مبتكرة تلتقط إشارات التفسير العالمية كإشراف ضعيف، حيث تجمع بين خسائر الانحدار التبادلي والفوكال مع وزن مبني على عدم اليقين. هذا يسمح لـ LEG بالحصول على أداء متساوي أو أفضل مقارنةً بأحدث النماذج الرائجة في تصنيف النصوص والقدرة على تقديم تفسيرات، سواء داخل نطاق البيانات أو خارجه.

يمتاز نموذج LEG بحجمه الصغير مقارنةً بالمناهج الحالية، مما يجعله خياراً متميزاً للباحثين والمطورين الراغبين في ضمان أمان نماذج الذكاء الاصطناعي بدون الحاجة إلى بنى معقدة.

هذا الابتكار قد يحدث ثورة في كيفية تعامل التطبيقات الذكية مع النصوص، ويؤكد على أهمية توفير أدلة تشرح قرارات النماذج المختلفة. باقتراح حلول خفيفة الوزن وقابلة للتفسير، نحن نقترب خطوة نحو عالم أكثر أماناً في استخدام الذكاء الاصطناعي.