في عالم الذكاء الاصطناعي، تستخدم نماذج اللغة الضخمة (Large Language Models) بشكل متزايد في معالجة المواضيع المعقدة، وخاصة عند التعامل مع سياقات نصية طويلة. لكن هل تساءلت يومًا كيف تدير هذه النماذج استرجاع المعلومات بطريقة غير حرفية؟ هنا يأتي دور تقنية جديدة تُعرف بـ Logit-Contribution Scoring (LOCOS)، التي تقدم آلية متطورة لفهم أداء هذه النماذج.

تعمل LOCOS على تقييم كل رأس من رؤوس الانتباه (Attention Heads) من خلال استخدام آلية تُدعى "output-value (OV) circuit"، حيث يتم ضبط التقييم بناءً على اتجاه تفكيك الإجابة. وهذا يعني أن LOCOS تسمح لنا بفهم ما تكتبه النماذج وليس فقط ما تقرأه. في دراسات قائمة على نماذج مثل Qwen3، Gemma-3، وOLMo-3.1، أظهرت LOCOS نجاحًا ملحوظًا في قياس الفعالية مقارنة بالفحوصات التقليدية.

من خلال عدم الاعتماد على معيار النسخ الحرفي الذي كان يُستخدم سابقاً، استطاع الباحثون وضع معايير جديدة أكثر دقة. فعلى سبيل المثال، في تطبيق على نموذج Qwen3-8B، إذا تم تعطيل 50 رأسًا أعلى من LOCOS، انخفضت قيمة ROUGE-L من 0.401 إلى 0.000، بينما احتفظت النماذج الأخرى بمعدل أقل بكثير.

هذا التطور يقدم فهماً أعمق لكيفية عمل نماذج اللغة في ظروف صعبة، ويتيح لنا تحسين تصميمها لتناسب احتياجات استخدامات محددة. إذا كنت مهتمًا بعالم الذكاء الاصطناعي، فإن هذه التقنية توفر لنا الأدوات اللازمة لفهم أفضل لكيفية تطوير هذه الأنظمة والتفاعل معها بشكل فعال.

ما رأيكم في هذه التقنية الجديدة؟ كيف تعتقدون أنها ستؤثر على مستقبل نماذج اللغة؟ شاركونا في التعليقات.