في عالم الذكاء الاصطناعي السريع التطور، يتمثل أحد أكبر التحديات في معالجة التحيزات الاجتماعية التي قد تتواجد في نماذج اللغة والرؤية الكبيرة (LVLMs). حيث أظهرت هذه النماذج قدرات مذهلة في معالجة البيانات، لكنها لا تزال عرضة للتأثيرات السلبية لهذه التحيزات.

لتجاوز هذا التحدي، تم تقديم إطار DeepBias كحل مبتكر. يعتمد هذا الإطار على مفهوم “التوليد، التطور، واستكشاف التحيزات” بشكل ديناميكي، حيث يقوم بتطوير بيانات الاختبار باستخدام وكيل مُقترح (ProposerAgent) يتم تحديثه بشكل مستمر عبر تحسين التفضيلات المباشرة (Direct Preference Optimization - DPO) بناءً على ردود النماذج.

بعد ذلك، يتولى وكيل الحفر (DiggerAgent) مهمة إعادة كتابة بيانات الاختبار عبر عدة جولات، حيث يتم اختيار استراتيجيات متعمقة من مكتبة مهارات مُركزة. هذه العملية ليست ثابتة، بل تتكيف مع ردود النموذج السابق، مما يؤدي إلى كشف تحيزات أعمق مع كل جولة.

علاوة على ذلك، تم إنشاء معيار جديد يُدعى DeepBiasBench باستخدام هذا الإطار، الذي يعتمد على خمس نماذج LVLM متنوعة كمرتكزات. يلتقط هذا المعيار نقاط الضعف المشتركة بين الأرميتج، مما يوفر فرصاً إضافية لفهم التحيزات التي قد تؤثر على النماذج بشكل أعظم.

أظهرت التجارب الشاملة فعالية إطار DeepBias، موفرة معياراً مُعقداً لتقييم التحيزات بكفاءة، مما يجعل منه طريقاً متطوراً لتقييم سلامة نماذج اللغة والرؤية الكبيرة.

فهل أنتم مستعدون لاستكشاف كيفية تجاوز حدود الأمان في نماذج الذكاء الاصطناعي؟