في عالم الذكاء الاصطناعي، يُعتبر تطوير نماذج اللغات الضخمة (Large Language Models) تحدياً كبيراً، ومع زيادة الطلب على الدقة والكفاءة، تظهر تقنيات جديدة دائماً. واحدة من هذه التقنيات هي ExTernD (Expanded-Rank Ternary Decomposition)، والتي تم تصميمها لتحسين دقة نماذج اللغات الضخمة.

قدمت ExTernD طريقة مبتكرة لتمثيل مصفوفات الوزن في نماذج اللغات الضخمة، حيث تقوم بتحليل كل مصفوفة وزن إلى شكل يمكن الاعتماد عليه باستخدام عوامل ثلاثية (Ternary factors). تتكون هذه العوامل من ثلاث قيم: -1، 0، و+1، ويُضاف إليها متجه قياس حقيقي (Real scale vector) لضمان دقة عالية.

الغرض الرئيسي من ExTernD هو تقليل الخطأ الناتج عن تقنيات التكميم التقليدية، وذلك من خلال توسيع مرتبة العوامل المستخدمة لضمان تصحيح الخطأ الناتج عن التكميم بالشكل الأمثل. وقد أثبتت الأبحاث أن المستوى المتبقي من الخطأ ينخفض باستمرار مع زيادة مرتبة العوامل، مما يجعل دقة ExTernD قريبة جداً من معايير النماذج المتقدمة.

تعد ExTernD قادرة على منافسة دقة نموذج Q4_K في تحقيق نتائج دقيقة تتراوح بين 5.2 إلى 5.5 Bitwidth per weight (bpw)، وهو يعد إنجازاً كبيراً. كما أثبتت الأداء المتفوق لنموذج Qwen3.5-4B، حيث حققت نتائج أفضل من مثيلها BF16، مما يفتح آفاق جديدة للبحوث والتطوير في هذا المجال.

إن التقنيات المتطورة مثل ExTernD تشير إلى مستقبل واعد لنماذج اللغات الضخمة، إذ تسهم في برمجة أفضل وأكثر كفاءة، مستندة إلى دقة تتجاوز ما كان يُعتقد سابقاً. فما هي توقعاتكم حول مستقبل نماذج الذكاء الاصطناعي بمثل هذه الابتكارات؟ شاركونا بآرائكم في التعليقات!