في خطوة مبتكرة لعالم الذكاء الاصطناعي، أُطلق نموذج دايدالوس-150M (Daedalus-150M)، وهو نموذج لغوي جديد يقدم تكنولوجيا هجينية تجمع بين تقنيتي الالتفات (Attention) والتلافيف (Convolution) ليتناسب مع العمل على وحدات المعالجة المركزية (CPUs). في العادة، تُبنى النماذج اللغوية الصغيرة مثل الكبيرة ثم تُضغط لاحقًا لتناسب وحدات المعالجة المركزية. لكن دايدالوس اتخذ مسارًا مختلفًا تمامًا، حيث تم التركيز على تحديد الهدف بشكل مسبق، مع مراعاة عدد المستخدمين وقيمة البيانات بصورة دقيقية.

هذا النموذج الجديد، الذي تم تدريبه من الصفر على 59.9 مليار رمز (Token)، يقدم نتائج تفوق النماذج الأخرى، حيث حقق درجة 47.31 في اختبارات متعددة المهام، وهو ما يتجاوز الرقم القياسي السابق البالغ 42.20 قبل بدء التدريب. يُظهِر دايدالوس-150M تفوقًا كبيرًا على نماذج شهيرة ومتنوعة مثل GPT-2 124M وPythia-160M وOPT-125M، على الرغم من تدريب تلك النماذج على بيانات أكبر بثلاث إلى ست مرات.

واحدة من ميزات هذا النموذج هي التركيب المبتكر الذي يحتفظ بالانتباه الكامل في 6 من بين 18 كتلة، بينما تعتمد الـ 12 الأخرى على تلافيف قصيرة لا تتجاوز ذاكرتها زمنين (two timesteps). هذه الاستراتيجية تضمن أن ثلثي الشبكة لا يعيد قراءة البيانات المتزايدة، مما يساعد على تقليل استهلاك الذاكرة. وعلى الرغم من أن تكلفة الجودة للنموذج الثابت الذي يعتمد على التقنية التقليدية كانت مرتفعة، فقد أثبت النموذج الهجين فعاليته، مُحققًا أداءً أسرع بنسبة 1.76 مرة عند معالجة 2048 رمزًا من السياق.

مع هذه البنية الفريدة، يضع دايدالوس-150M معيارًا جديدًا للجودة والأداء في تطوير النماذج اللغوية، مما يعكس الحاجة المتزايدة لنماذج فعالة وقابلة للتطبيق في بيئات تحتاج لسرعة وكفاءة عاليتين. هل أنتم مستعدون لرؤية كيف سيغير دايدالوس مستقبل الذكاء الاصطناعي؟