تعتبر تقنية تدريب نماذج الذكاء الاصطناعي من التحديات الكبيرة في عالم التكنولوجيا اليوم، ومع ظهور نماذج اللغات الضخمة (Large Language Models) أصبحت الحاجة لإيجاد أساليب جديدة وفعّالة أكثر من أي وقت مضى.
في هذا السياق، قدم فريق من الباحثين تقنية متطورة تعرف بتكييف "Forward-Pass-Only" (FPO) التي لا تتطلب استخدام العودة العكسية (Backpropagation) خلال عملية التدريب. تشير النتائج الأولية إلى أن هذه الطريقة توفر من 2.7 إلى 3.2 ضعف الإنتاجية مقارنةً بتقنيات التكييف التقليدية، مع انخفاض يصل إلى 40% في الذاكرة التدريبية.
تستند تقنية FPO على ملاحظة تجريبية مثيرة للاهتمام، وهي أن خطأ التنبؤ في الطبقات الأخيرة للنموذج التقني تقريبًا يعكس التدرج الحقيقي، ويكون التشابه الكوني بين 0.47 و0.59 في ستة نماذج عامة خضعت للتقييم. ما يميز هذه الطريقة هو أنها لا تحتاج إلى إشارة بين الطبقات، بل تقوم بحساب إشارة خطأ واحدة فقط ثم تطبقها على كل طبقة مستهدفة.
تمت مراجعة تقنية FPO على ثلاثة عائلات لنماذج مختلفة (OLMo-2-7B، Qwen3-8B، Falcon3-7B)، وكانت النتائج مبهرة حيث أظهرت تحسينًا في مقاييس الأداء دون التأثير على النتائج الأساسية.
تقدم هذه التقنية أفقًا جديدًا في تدريب نماذج الذكاء الاصطناعي، مما يمكن الباحثين من تحقيق نتائج أكثر كفاءة وفي زمن أقل. ومع استمرار الأبحاث في هذا المجال، يبقى السؤال: ما هي التأثيرات المحتملة لهذه التقنية على مستقبل الذكاء الاصطناعي؟ شاركونا في التعليقات!
ثورة في التدريب على نماذج الذكاء الاصطناعي: سرعة وكفاءة بلا حدود!
تقديم تقنية جديدة لتكييف نماذج اللغات الضخمة بدون استخدام العودة العكسية، مما يزيد من الأداء ويوفر في الذاكرة. تقنية FPO تحقق نتائج مذهلة بتكلفة أقل!
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
