في عالم الذكاء الاصطناعي، يُعتبر التعلم المستمر (Continual Learning) أحد أبرز التوجهات التي تسعى إلى تحسين قدرات النماذج اللغوية الصغيرة (Small Language Models) في التكيف مع الاحتياجات المتزايدة. لكن، تكمن المشكلة الكبرى في تحديث سعة المعلمات المحدودة لهذه النماذج، مما يؤدي إلى ظاهرة تُعرف بالنسيان الكارثي (Catastrophic Forgetting).
للتغلب على هذه العوائق، تم تقديم إطار العمل MIITA، والذي يعني "تكييف الاستنتاج المعتمد على الذاكرة في وقت الاستدلال". يهدف هذا الإطار إلى تخزين التجارب المشروطة كنسخ مصغرة من التعديلات الصحيحة مع مؤشرات دلالية، واسترجاعها أثناء مرحلة الاستدلال باستخدام إشارات معرفية ومؤشرات عدم اليقين.
تجمع طريقة MIITA بين الذكاء الاصطناعي المتقدم والذاكرة الديناميكية، مما يسمح لمشاريع قائمة على نماذج صغيرة بالتكيف مع معطيات جديدة دون الحاجة لتحديث شامل أو استخدام موارد كبيرة. يعتمد تصميم هذا الإطار على تحليل نظري محلي يربط بين تقليل الخسارة من الدرجة الأولى واسترجاع المعلومات المستند إلى عدم اليقين وتحقيق تغطية اتجاهية للاحتفاظ بالمعرفة المكتسبة سابقًا.
أظهرت التجارب الواسعة في بيئات مختلفة للتعلم المستمر أن MIITA يعزز الأداء النهائي ويقلل من تأثير النسيان ضمن الحدود الميزانية للذاكرة. إن هذا الابتكار يعد خطوة كبيرة في مجال الذكاء الاصطناعي، وخاصة في التطبيقات التي تعتمد على نماذج صغيرة وتحتاج إلى التكيف السريع.
MIITA: تحسين الذكاء الاصطناعي المستمر عبر ذاكرة ذكية للموديلات اللغوية الصغيرة
MIITA هو إطار عمل مبتكر يهدف إلى تعزيز التعلم المستمر (Continual Learning) في الموديلات اللغوية الصغيرة (Small Language Models)، مما يعالج مشكلة النسيان الكارثي. من خلال تقنيات استرجاع تعتمد على الذاكرة، يمكن الأخير الاستفادة من التجارب السابقة بطريقة فعالة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
