في عالم الذكاء الاصطناعي، تتطور الأساليب باستمرار لتعزيز أداء النماذج اللغوية في معالجة البيانات وفهمها. من بين هذه التطورات، تبرز تقنية جديدة تُعرف بـ "LoRi"، والتي تمثل اختصارًا لـ "تصفية منخفضة المرتبة للاستدلال الضمني" (Low-Rank Distillation for Implicit Reasoning).

تسعى أساليب الاستدلال الخفي مثل "iCoT" (Implicit chain-of-thought) إلى تحقيق استنتاج داخلي داخل نماذج اللغة الكبيرة، لكنها غالبًا ما تعاني من أداء أقل من الأساليب الواضحة مثل "CoT" (Chain of Thought) المتعارف عليها. توصل الباحثون من خلال تجاربهم إلى أن مسارات التفكير المخفية تُظهر هيكلًا منخفض المرتبة، مما أثار فكرة تطوير إطار عمل يسمى LoRi.

يعتمد LoRi على تصفية الاستدلال عن طريق محاذاة المسارات بين المعلم والطالب ضمن مساحة عُشري منخفض مرتبة، مستخدمًا إحصائيات من المرتبة الأولى والثانية. يُمكن هذا الإطار من التقاط الهيكل العام لعملية الاستدلال بينما يدعم أيضًا عملية استدلال مضغوطة.

تم اختبار تقنية LoRi عبر العديد من عائلات النماذج، بما في ذلك "LLaMA" و"Qwen"، وعلى إطار واسع من مقاييس التفكير الرياضي. كانت النتائج مثيرة للإعجاب، حيث أظهرت التقنية تحسنًا ملحوظًا في الأداء، خاصة في المهام المعقدة متعددة الخطوات، مما جعل دقة LoRi تقترب من تلك الخاصة بأساليب "CoT" الواضحة، متفوقةً على الأساليب السابقة للاستدلال الضمني.

تعتبر هذه النتائج خطوة هامة في مجال الذكاء الاصطناعي، مما يتيح للنماذج تحسين قدراتها على الاستدلال بطريقة أكثر فعالية. ما رأيكم في تلك التقنية الجديدة؟ شاركونا في التعليقات.