شهدت نماذج اللغات الضخمة (LLM) مؤخرًا تطورًا مثيرًا يتمثل في استخدام نماذج منخفضة الدقة جدًا، والتي تقترب من دقة نماذج الدقة الكاملة. يتيح لنا هذا الابتكار الدخول في حقبة جديدة من استدلال النماذج اللغوية، حيث تمثل تلك النماذج خطوة كبيرة نحو تحسين الأداء وتقليل تكاليف التشغيل.

تتميز هذه النماذج بكفاءتها من حيث استخدام الذاكرة، استهلاك الطاقة، والسرعة، كما أن تنفيذها على وحدات المعالجة المركزية (CPUs) باستخدام نوى صغيرة (microkernels) بدقة 2-بت أظهر أداءً مذهلاً يقترب من حدود الفعالية. وبدمج هذه النوى في مسارات استدلال الـ LLM، حققنا نتائج شاملة مع نماذج منخفضة الدقة، متفوقين على أداء النظام الحالي (SOTA) بمعدل 2.2 مرة.

لكن الأمر لم يتوقف هنا؛ فقد تم تطوير التجربة لتشمل وحدات معالجة الرسوميات Intel Xe2، حيث تم تنفيذ نوى مختلطة القدرات بدقة 2-بت. وأظهرت النتائج أننا حصلنا على تسريع يصل إلى 6.7 مرة مقارنةً بمسار 16-بت، مما يبرز التقدم الكبير في تقنية استدلال نماذج اللغة.

بفضل هذه التطورات، يفتح المجال لشركات التكنولوجيا والباحثين لتحقيق إنجازات غير مسبوقة في عالم الذكاء الاصطناعي. إنه لأمر مثير رؤية كيفية تفاعل هذه النماذج مع متطلبات السوق وتقديم حلول مبتكرة تفيد الجميع.