في عالم الذكاء الاصطناعي، تثير نماذج اللغة الكبيرة (LLMs) اهتماما واسعاً، حيث يتم تقييمها كما لو كان بالامكان تحقيق موثوقية مثالية لأي مهمة، شريطة توفر الحجم الكافي. ولكن، دراسة جديدة تكشف أن هذا الافتراض غير معتمد على أسس معلوماتية صحيحة.

توضح الدراسة أن كل مهمة توليدية تنطوي على حد للموثوقية لا يمكن لأي نموذج تجاوزه، ويتحدد هذا الحد بناءً على مقدار عدم اليقين في المخرجات التي يمكن حلها من السياق الملحوظ. ينقسم الفجوة إلى جزئين: جزء يمكن حله عبر تقديم سياق إضافي وجزء آخر مرتبط بطبيعة غموض المهمة.

كما يقوم التوليد القائم على التحليل الذاتي بتقليل هذا الحد بمعدل يتحكم فيه "نواة الاعتماد على المهمة"، التي تقيس ترابط التوكنات في الناتج. نستخرج من هذين العنصرين قانوناً مرناً للمقياس حيث تتأثر أداء نماذج LLM بالموارد النادرة: البيانات التدريبية أو سعة النموذج.

توفر هذه الدراسة أيضاً حساباً هيكلياً يوضح متى يمكن أن يؤدي التحجيم إلى تحسين الموثوقية. بالإضافة إلى ذلك، يمثل إطار عملنا تجميعاً لمجموعة متنوعة من الظواهر العملية، مثل فوائد تعزيز الاسترجاع وآليات التراجع الكارثي.

إن هذا العمل يرسخ مفاهيم التبادل المعقد للموارد التي تحكم أداء النماذج عبر المجالات، موفراً نظرية موحدة للحدود في أداء نماذج اللغة التوليدية.