تشهد تقنيات الذكاء الاصطناعي تقدماً ملحوظاً، ومن بين هذه التقنيات البارزة هو نظام MinT (MindLab Toolkit). يهدف هذا النظام لإدارة البنية التحتية الخاصة بالتكيف منخفض الرتبة (Low-Rank Adaptation - LoRA) بعد التدريب، مما يسهل عملية تقديم النماذج والتفاعل معها. في العصر الحالي، حيث تتزايد الحاجة إلى نماذج لغوية متميزة، يقدم MinT حلاً مبتكراً يقوم على إدارة العمليات بكفاءة.
عند استخدام MinT، يتم إنتاج العديد من السياسات المدربة بفضل تقليص الحاجة لنشر نماذج أساسية باهظة الثمن. يعتمد النظام على إبقاء النموذج الأساسي في الذاكرة، وينقل التعديلات المنفصلة لأجهزة LoRA من خلال تجارب الشراكة والتحديث والتصدير والتقييم، مما يبسط العملية ويخفف من تعقيدها.
يتميز نظام MinT بقدرته على التوسع عبر ثلاثة محاور رئيسية:
1. **زيادة النطاق**: يتيح النظام استخدام LoRA في بنى كثيفة وطرق الانتباه المتعددة الأعمال (MoE) بجودة عالية، مع إمكانية تدريب وتقديم نماذج تفوق 1 تيرابايت من المعلمات.
2. **خفض النطاق**: يسمح بالشحن فقط لأجهزة LoRA المصدّرة، التي قد لا تتجاوز 1% من حجم النموذج الأساسي، مما يُعتبر ثورة في تقليل الزمن المطلوب.
3. **توسيع النطاق**: يفصل بين القدرة على عناوين السياسات الدائمة وبين مجموعات العمل على وحدات المعالجة المركزية/المعالجات الرسومية، مما يمكن النظام من إدارة كتالوجات ضخمة تصل إلى مليون عنوان.
بفضل MinT، يمكن للباحثين ومطوري الذكاء الاصطناعي إدارة كتالوجات سياسات LoRA بفعالية أثناء التدريب وتقديم الإصدار المحدد من التعديلات على نماذج أساسية ضخمة تصل سعتها إلى 1 تيرابايت. يعد هذا التطور خطوة هامة نحو تحسين كفاءة استخدام النماذج اللغوية وتقديم نتائج دقيقة وسريعة.
MinT: الحل الثوري للبنية التحتية المدارة في تدريب وإدارة مليون نموذج لغوي
تقدم MinT بنية تحتية مدارة تسهل عملية تدريب وإدارة نماذج اللغة الكبيرة باستخدام الأساليب الحديثة مثل التكيف منخفض الرتبة (LoRA). تضمن هذه التقنية تعزيز الأداء وتقليل التكاليف بشكل كبير.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
