تتناول هذه الدراسة الجديدة في مجال الذكاء الاصطناعي طريقة تدقيق تفضيلات البشر باستخدام المحولات الدائرية (Looped Transformers). حيث تم تدريب رؤوس مقيمة خفيفة على حالة تكرار Ouro-2.6B المجمدة، مستخدمين قاعدة بيانات Anthropic HH-RLHF.

في النسخة الثانية من البحث، تم إنشاء تصحيح يحوي نتائج رئيسية ثلاث تضخمت بسبب أخطاء تقييم مستقلة. فبينما كان دقة المحاكيات ومتوسط التفضيلات مدهشاً، إلا أنها أيضاً عانت من بعض المشاكل. على سبيل المثال، دقة المقيم عند 95.2% كانت نتيجة لعوامل تنظيمية، وهذا ما اكتشف بعد إجراء تدقيق لما بعد النشر، حيث أن المقيم تعلم تفضيل الحجة المقدمة أولاً. بالأرقام، كانت دقته على مجموعة اختبار تضم 8,552 زوجاً فقط 63.9%.

علاوة على ذلك، النتائج الأخرى لم تكن تعكس دقة حقيقية حيث تم رصد تسرب في البيانات في الاختبار، مما أدى إلى خلاف في نتائج المقام العلائقي. لكن رغم هذه التحديات، تُظهر النتائج أن التفضيل يتم فك تشفيره بدقة أكبر من خلال العلاقات مقارنة بالنقاط المفردة. لذا، يظل السؤال: كيف يمكن تحسين هذه النماذج لتفادي الأخطاء السابقة وضمان دقة أعلى في النتائج؟

مع استمرار البحث عن تحسين النماذج، يبدو أن أهمية التدقيق المنهجي ستظل في صميم عمليات التقييم المستقبلية، مما يعكس الحاجة إلى أن تكون أدوات الذكاء الاصطناعي أكثر دقة وموثوقية. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.