في عالم الذكاء الاصطناعي، تمثل القدرة على التنبؤ بالأرقام ركيزة أساسية في حل المسائل الرياضية وتوليد الأكواد البرمجية عبر نماذج لغوية ضخمة (Large Language Models - LLMs). ورغم شيوع استخدام طريقة تقدير الاحتمالات القصوى (Maximum Likelihood Estimation - MLE) لتدريب هذه النماذج، إلا أنها لم تكن مصممة خصيصًا للتنبؤ بالأرقام، مما دفع الباحثين للبحث عن حلول بديلة.

في ورقة بحثية حديثة، تم تقديم مفهوم 'خسارة انتروبيا الأرقام' (Digit Entropy Loss - DEL) كاستجابة لقضايا التعلم العددي. حيث يسعى هذا الأسلوب إلى تحسين الطرق التقليدية مثل 'خسارة الرموز العددية' و'خسارة المسافة المفككة'، التي غالباً ما تؤدي إلى توزيعات عددية مشوهة.

تتضمن طريقة DEL إعادة صياغة عملية تحسين الانتروبيا التقليدية عن طريق ثلاثة تصاميم رئيسية: الأول هو استخدام إمكانية الاحتمالات الشرطية للأرقام، والثاني إزالة مصطلح المسافة لتفادي المشكلات الناجمة عنها، والثالث هو توسيع نطاق التعلم العددي ليشمل الأعداد العشرية، مما يمكن النماذج من تقديم توقعات أكثر دقة.

تم تنفيذ اختبارات تجريبية على سبعة معايير لحل المشكلات الرياضية باستخدام أربعة نماذج تمثيلية، بما في ذلك CodeLlama وMistral وDeepSeek وQwen-2.5، حيث أظهرت DEL تفوقًا ملحوظًا في دقة التوقع مقارنةً بالأساليب السابقة.

في ختام هذا البحث، يتضح أن تقنية DEL ليست مجرد ابتكار تقني، بل تمثل خطوة رائدة نحو تحسين قدرات نماذج الذكاء الاصطناعي في مجال التنبؤ العددي. هل أنتم مستعدون لاكتشاف المزيد عن هذه التقنية المذهلة؟ شاركونا توقعاتكم في التعليقات!