في ثورة جديدة في عالم الذكاء الاصطناعي، يكشف بحث رائد تم نشره في arXiv عن إمكانية تعزيز نماذج اللغة المدربة مسبقاً بتقنيات العمق المتكرر (Recurrent Depth). فقد تم جمع نموذج Qwen2.5-0.5B-Instruct إلى ثلاثة أقسام رئيسية: مقدمة، كتلة متكررة مرتبطة بالأوزان، ونهاية، مع مسار يحافظ على الهوية.
تظهر النتائج أن هذه التعديلات تمكن النموذج من أداء مهمات معرفية بشكل أفضل، حيث أثبتت الدراسات أن النموذج المطور يمكنه معالجة التغييرات في العمق المتكرر. وعندما تم الاختيار بين ميزانيات تدريبية مختلفة تتمثل في 6 مليون و180 مليون معلمات، أظهر النموذج أداءً مثيراً للإعجاب، حيث حصل على 83.8% من الدقة مقارنة بـ84.0% في أوقات الاختبار المختلفة.
إحدى النقاط البارزة تشمل القدرة على التنفيذ التكراري، حيث يمتاز النموذج بالاحتفاظ بعمق يصل إلى 18، مع دقة تصل إلى 70%. وبالإضافة إلى ذلك، أظهرت المقارنة بين النموذج التقليدي والنموذج المتكرر تفوق الأخير في الأداء العام، حيث سجل 84% مقابل 72%، مع قدرة على الإجابة أسرع بمعدل 7.6 مرة.
هذا البحث يشكل خطوة كبيرة إلى الأمام في فهم كيفية تطوير الذكاء الاصطناعي والمتغيرات الجديدة التي يمكن أن تعزز من أداء الآلات، مما يفتح آفاق جديدة في مجالات متعددة مثل معالجة اللغات الطبيعية (NLP) والفهم السياقي.
تطوير نماذج لغوية: تعزيز العمق المتكرر لتحسين أداء الذكاء الاصطناعي!
يكشف بحث حديث عن إمكانية تعزيز نماذج اللغة المدربة مسبقاً بعمق متكرر، مما يعزز قدرتها على التعلم والتكيف. النتائج الجديدة تشير إلى أداء متفوق في حل المشكلات المعقدة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
