في عالم الذكاء الاصطناعي (AI)، يعتمد النظام على الفهم الدقيق لتفضيلات البشر، لذا تُعَد المقارنات الثنائية بين البشر الأداة الأساسية لتحسين التعلم. ورغم ذلك، فتقنيات مثل التعلم من تفضيلات البشر عن طريق التعزيز (RLHF) تعتمد على فرضيات قد تكون مضللة، كما أشارت الدراسة الأخيرة.

توضح ورقة البحث الجديدة كيف أن نموذج التعلم الحالي قد يفشل في تحديد مصادر التفاوت في تفضيلات البشر بسبب الانتباه المحدود. حيث تتناول المقارنة الثنائية أنه قد تكون هناك صعوبات حقيقية في التمييز بين خيارات قريبة في القيمة أو بسبب قيود الانتباه التي نعيشها.

أظهرت الدراسة أن تأثير الانتباه المحدود يمكن أن يؤدي إلى تشويش النتائج المستخرجة من المقارنات، مما يعني أن البيانات التي تم جمعها ليست بالضرورة تعكس التفضيلات الحقيقية، بل تفصح عن عدم القدرة على الإحساس الفعلي بتلك الفروقات أو الميول المسبقة.

من خلال دراسة حالة تتعلق بتصويت البشر على نماذج لغوية من Chatbot Arena، تم توثيق سمات حصرية تشير إلى وجود بيانات مقارنية غير قابلة للتمثيل بواسطة مكافآت عددية فقط. عرضت دراسة أخرى كيف أن أوقات الاستجابة ونظرات المستخدمين تحمل معلومات تفصيلية غائبة عن التصنيفات الثنائية المعتادة.

بالنهاية، تدعو هذه الرؤية إلى إعادة النظر في كيفية تعاملنا مع ملاحظات البشر، وليس كمعايير للتفضيل المباشر، بل كعملية قياسية محدودة الانتباه، حيث يمكن أن تعكس إشارات التفضيل الضعيفة صعوبة التقييم الخفي بدلاً من عدم المبالاة الحقيقي.