في عالم الذكاء الاصطناعي، تعد التقييمات الدقيقة ضرورية لضمان النجاح في المهام المفتوحة. مع ذلك، يعاني التعلم التعزيزي القائم على المعايير (Rubric-based Reinforcement Learning) من بعض العوائق، مثل المشكلة التي أطلقنا عليها اسم "المكافأة الفارغة" (Vacuous Credit)؛ حيث يمكن للمحكمين منح درجات عالية رغم عدم وجود المعلومات اللازمة.

لحل هذه القضية، تم تقديم MetaRubric، الذي يجمع بين تحسين السياسة الواعي بالأدلة وتكيف المعايير استنادًا إلى الاستجابات. يتمثل الابتكار في تكوين نسخ مضادة كلما تم تعديل حقيقة واحدة ذات صلة بالمهمة في أي طلب. أثناء تحسين السياسة، تُمنح المكافآت فقط عندما تحتوي الاستجابة على أدلة كافية تلبي معايير التقييم. بعد كل مرحلة من مراحل تحسين السياسة، يتم توجيه تقييم الاستجابات الحالية لتعديلات المعايير الأصلية والمضادة، مما يحافظ على المعنى الأصلي.

علاوة على ذلك، يتم تكيف أوزان المعايير عند الحدود لمواجهة الأخطاء الملاحظة في السياسة. النتائج كانت مثيرة للإعجاب، إذ أظهرت MetaRubric تحسينًا في دقة PubMedQA بنسبة تتراوح بين 6.00 و20.40 نقطة مئوية مقارنةً بتقييمات المحكمين الثابتة، مع مزيد من تحسينات الأداء في HealthBench-Hard واثنين من المعايير الطبية متعددة الوسائط.

إذا كنت من المهتمين بتطورات الذكاء الاصطناعي، فإن MetaRubric تمثل خطوة مهمة نحو تحسين دقة النماذج وتوسيع المجال أمام التجارب الأكاديمية المستقبلية.

ما رأيكم في هذا التطور المثير؟ شاركونا في التعليقات.