كيف تحدد مصنّفات الانتشار القرارات؟ تقييم مركّز على التحيز يكشف النقاب عن الآلية!

في ظل التطورات المتسارعة في مجال الذكاء الاصطناعي، ظهرت نماذج الانتشار (Diffusion Models) كأحد الابتكارات الرائدة، حيث تم إعادة هيكلتها لاستخدامها في التصنيف غير المراقب (Zero-shot Classification). هذه النماذج، المعروفة بمصنّفات الانتشار (Diffusion Classifiers)، تعتمد على تقليل خطأ التنبؤ بالضوضاء لتحديد النص الأفضل ملاءمة. ومع ازدياد اعتمادها، لا تزال آلية اتخاذ القرارات بها غامضة إلى حد كبير.

للكشف عن التجاوزات والتحيزات المحتملة، تم تقديم إطار ASOB-Bench، الذي يقيّم مصنّفات الانتشار عبر ثلاثة أبعاد رئيسية: ربط الخصائص (Attribute Binding)، وتحامل حجم الترتيب (Size-Order Bias)، والاعتماد على الخلفيات (Background Dependency). هذه الأبعاد ليست مصنفة شاملة، بل تعمل كأدوات استقصائية لاستكشاف كيفية وصول النماذج إلى قراراتها بناءً على درجات خطأ إعادة البناء (Reconstruction-Error Scores) التي تعتمد على النص.

أظهرت الأبحاث الحالية أن مصنّفات الانتشار تتعرض لأخطاء ربط الخصائص أقل بكثير مقارنةً بمعيار OpenCLIP. ومع ذلك، عند استخدام معيار ComCo، كانت المصنّفات أكثر عرضة لاختصارات حجم الترتيب، بينما انخفضت دقتها بشكل ملحوظ على مجموعة بيانات ImageNet-B، مما يشير إلى اعتمادها الكبير على الخلفيات بدلاً من الخصائص الأمامية.

توضح خرائط الحرارة الخاصة بخطأ إعادة البناء وتصوير الانتباه المتقاطع (Cross-Attention Visualizations) آلية التحيز في كل حالة.

بما أن مصنّفات الانتشار تشترك في نفس مسار إزالة الضوضاء مع نماذج توليد الصور من النصوص، فإن هذه التشخيصات الأحادية تقدم أيضًا لمحات عن أنماط الفشل المشابهة أثناء التوليد. بشكل عام، تُظهر مصنّفات الانتشار ملف تعريف تحيز متميز مقارنة بنماذج الرؤية واللغة، مما يقدم إرشادات لبناء نماذج أكثر قوة قائمة على الانتشار.

هل تتفقون أن فهم التحيزات في الذكاء الاصطناعي يعزز من تطوره؟ شاركونا آرائكم في التعليقات.