في عالم الذكاء الاصطناعي، حيث تُستخدم نماذج اللغات الضخمة (Large Language Models) لتوليد النصوص والإجابات بدقة، يواجه الباحثون تحديًا أساسيًا يُعرف بإخفاق الوصول الواقعي (factual access failure). ورغم أن التكييف الموجه (Supervised Fine-Tuning) قد يحسن أداء النماذج في مجالات محددة، إلا أنه يمكن أن يؤدي إلى تدهور في دقة المعلومات عند تعرض النماذج لمعلومات خارج نطاق التدريب.
في دراسة جديدة نُشرت على منصة arXiv، تم تقديم مفهوم جديد يُعرف بالتدهور المنذري (catastrophic forgetting)، الذي يصف كيف يمكن أن تفقد النماذج ذكاءها الواقعي. لكن، وتحت ظروف معينة، يمكن للنماذج أن تتعرف على الإجابات الصحيحة، بينما تفشل في إنتاجها أثناء توليد النصوص.
للتغلب على هذه المشكلة، تم اقتراح تقنية جديدة تُدعى Recall-Anchored Distillation (RAD)، التي تعمل على استعادة الأداء الواقعي للنماذج من خلال محاذاة النتائج مع توزيع النموذج الأصلي. هذه الطريقة لا تتطلب إجابات خارجية مصنفة أو حكم خارجي، مما يجعلها أكثر فعالية.
في اختبارات أجريت على نماذج تعتبر رائدة في هذا المجال، أثبتت تقنية RAD أنها تستطيع الحفاظ على جزء كبير من دقة استرجاع المعلومات الخارجة عن التوزيع، مقارنة بأساليب أخرى تعتمد على إعادة استخدام نفس النصوص. هذا يساهم في الحفاظ على التكيف مع المجالات المستهدفة دون التفريط في الدقة.
تظهر النتائج أن الإشارة الرئيسية للحفاظ على الأداء تكمن في توزيع النموذج الأساسي وليس فقط التعرض لنصوص إضافية. يُعد هذا الابتكار بمثابة خطوة متقدمة نحو تعزيز قدرات نماذج الذكاء الاصطناعي في بيئات متعددة، مما يفتح آفاقًا جديدة في عالم الذكاء الاصطناعي.
إعادة الثورة في نماذج الذكاء الاصطناعي: كيفية مواجهة إخفاقات الوصول الواقعي من خلال تقنية الاستدلال المدعوم
تقدم الأسلوب الجديد المدعو Recall-Anchored Distillation (RAD) حلاً فعالاً لمشكلة إخفاق الوصول الواقعي في نماذج التكييف الموجه. هذا الابتكار يعيد الحفاظ على دقة المعلومات في بيئات متعددة التوزيعات.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
