انهيار السياق في نماذج الرؤية واللغة: كيف يمكنك تجنبه؟

تؤكد الأبحاث الأخيرة وجود ظاهرة مثيرة للقلق في نماذج الرؤية واللغة (Vision-Language Models) تُعرف باسم انهيار السياق (In-Context Collapse). هذه الظاهرة تعني أن أداء النماذج يمكن أن يتراجع بشكل حاد في بعض الحالات كلما زاد عدد الأمثلة المستخدمة في السياق. ومع أن التعلم من الأمثلة المتعددة (Many-Shot Learning) يتيح للنماذج التكيف مع مجموعة متنوعة من المهام دون الحاجة إلى تحديث أوزانها، إلا أن النتائج أظهرت العكس: فبعض النماذج تتعرض لانهيار في الأداء، لا سيما في مهام مثل التصنيف والتقييم، مما يؤدي إلى تراجع دقيق في الدقة إلى ما دون المستوى الاحتمالي بينما تظل المخرجات شكلية.

تمت دراسة هذه الظاهرة عبر مجموعة متنوعة من النماذج، شملت نماذج تتراوح سعتها من 0.5 مليار إلى 11 مليار_parameter، بالإضافة إلى نموذج متقدم (Claude Sonnet 4.5). وقد أظهرت الدراسة أن هناك خصائص معينة تساهم في هذا الانهيار، مثل التحمل لإضافة المزيد من الأمثلة والقدرة على تعلم قواعد جديدة في السياق.

تشير النتائج إلى أن مشكلة الانهيار ترتبط بشكل أساسي بواجهة تكامل الرؤية واللغة، حيث يمكن معالجة هذه المشكلة من خلال استخدام تقنيات مثل "CircA" والتي يمثل جوهرها تلقيح تكاملي يُدرب مرة واحدة على مهمة اصطناعية، مما يمكّن النموذج من مقاومة الانهيار عند مواجهة مهام غير مألوفة. هذه التقنية تُظهر نتائج واعدة مما يعكس التطورات المثيرة في هذا المجال.

إن معالجة ظاهرة انهيار السياق لا تعزز فقط فعالية نماذج الرؤية واللغة، وإنما تفتح الطريق لمزيد من الابتكارات في الذكاء الاصطناعي (AI) وتطبيقاته في العالم الحقيقي.