مع تزايد استخدام أنظمة الذكاء الاصطناعي (AI) في مجالات متعددة، أصبح من الضروري التأكد من أن القرارات التي تتخذها هذه الأنظمة تستند إلى أسباب منطقية وقواعد ثابتة. الباحثون قدموا دراسة حديثة تتناول مسألة مهمة: "كيف يمكن ضمان سلامة عملية تقييم الحكم في أنظمة الذكاء الاصطناعي؟"

الدراسة الجديدة تقدم مفهوماً مبتكراً يطلق عليه "الإيصالات المضادة" (Counterfactual Receipts)، وهي عبارة عن نماذج تحاكي تفسير الأحكام الصادرة عن الأنظمة. إذ أن التقييم التقليدي فقط يركز على صحة النتيجة النهائية دون النظر إلى كيفية الوصول إلى تلك النتيجة.

يقدم الباحثون ثلاث مصادر رئيسية لتحديد المساءلة في تقييمات الأحكام: الأسس، المعايير، والسلطة. من خلال التلاعب في هذه المصادر، تم تطوير "مكعب الحكم المضاد" الذي يمكن من تصنيف التحديثات في الأحكام. كما تم تعريف ما يعرف بـ "إيصالات الحكم"، وهي مجموعات المصادر الأساسية التي تعيد إنتاج الأحكام المعدلة، مما يساعد على تفسير كيف تحدث التحولات في القرارات.

وقد أظهرت النتائج أن نظام "Qwen3-1.7B" يمكنه تحقيق دقة تبلغ 98.41% في إيصالات الحكم، لكن النماذج تواجه تحديات في موثوقية الأحكام مع الفروقات الملحوظة في دقة الأداء. وهذا يمثل قلقًا كبيرًا حيث تكشف الدراسة عن ثغرات في صلابة الأنظمة.

في الختام، تعبر هذه الدراسة عن حاجة ملحة لفصل التنبؤ عن عملية التقييم من أجل ضمان النزاهة والموثوقية في آلية التدقيق. ما رأيكم في أهمية تطوير طرق موثوقة للحصول على قرارات دقيقة من أنظمة الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.