في عالم الذكاء الاصطناعي، تظهر أهمية قدرة النماذج على التعرف على حدود معرفتها، حيث تتيح هذه القدرة لها اتخاذ قرارات أكثر فاعلية. لكن كيف يمكن للنموذج أن يعرف متى يكون غير متأكد؟

في دراسة جديدة، تم اقتراح نهج واعد يعتمد على قياس مستوى الثقة الذي يعكس مدى جهل النموذج. تظهر الدراسات السابقة في مجالات معينة أن التهيئة (calibration) يمكن أن توفر تقديرات موثوقة لمستويات الثقة.

تم تطوير طريقة بسيطة وفعالة لا تعتمد على التدريب، وقابلة للتطبيق على نماذج الرؤية (vision models) واللغة (language models) على حد سواء. تعتمد هذه الطريقة على تهيئة النموذج، استخدام الكاسكيد (cascading)، وتنظيف البيانات من أجل تعزيز قدرة النموذج على التعرف على متى يكون جاهلاً.

تشير الملاحظات التجريبية إلى أن ارتفاع مستويات الثقة يرتبط بدقة أعلى، وأن النماذج المهيأة تبقى مهيأة حتى عند اختبارها على مجموعات بيانات جديدة. علاوة على ذلك، تم تقديم تطبيقين رئيسيين: الكاسكيد مع توجيه مزايا مهيأة، وتنظيف البيانات بناءً على تجميع النماذج (model ensemble).

بفضل الإشارات المستمدة من موثوقية مستويات الثقة، تم تحسين كفاءة النماذج المزج بين النماذج الكبيرة والصغيرة مع الحفاظ على دقة عالية. كما تم تحسين الأداء باستخدام طرق تنظيف بيانات فعالة توازن بين الدقة ونسب الكشف عن الملاحظات الخطأ في مجموعات بيانات مثل ImageNet وMMLU.

تسهم هذه النتائج في تمهيد الطريق تجاه ذكاء اصطناعي أكثر كفاءة وموثوقية، مما يجعل النماذج أكثر قدرة على إدراك حدود معرفتها. هل أنتم مستعدون لاستكشاف مستقبل الذكاء الاصطناعي أكثر موثوقية وذكاء؟ شاركونا آراءكم في التعليقات!