تعتبر أنظمة التوصيات المعتمدة على نماذج اللغات الضخمة (Large Language Models) أداة قوية في عصر الذكاء الاصطناعي، ولكن هناك تساؤلات هامة حول مدى عدالتها بالفعل. في دراسة حديثة، تم تقديم نظام FairGap، الأول من نوعه الذي يقيم العدالة في التوصيات على مستويين: التغير في المخرجات المرئية (Observable Output Shift - OBS) والتغير في التمثيلات الداخلية الخفية (Hidden Representation Shift - IBS).

التحدي يكمن في الافتراضات السابقة التي تفترض أن الاستقرار في المخرجات يعني استقراراً في العملية الداخلية. من خلال FairGap، كشف الباحثون أنه رغم وجود مخرجات مستقرة، قد تحدث تغييرات داخلية ملحوظة. تمت دراسة العلاقة بين العدالة المرئية والداخلية من خلال مقياس يسمى محاذاة التمثيل والمخرجات (Representation-Output Alignment - ROA)، مع إمكانية تشخيصات ربع السنوية لتحديد عدم المطابقة على مستوى المستخدم.

تطبيق البحث على ست عائلات مختلفة من نماذج اللغات الضخمة عبر ثلاثة مجالات أثبت وجود انفصال واسع النطاق في المخرجات الخفية، حيث لم تتجاوز محاذاة ROA 0.22 في كثير من الحالات. بل إن النسبة المئوية غير القليلة من المستخدمين أظهرت مخرجات ثابتة رغم حدوث انزلاقات داخلية كبيرة، وهو أمر لا يستطيع التدقيق القائم على المخرجات وحده اكتشافه.

كما أظهر البحث أن تقنيات توجيه التنشيط التي تقلل من المتغيرات الخفية قد تؤدي في نفس الوقت إلى تفاقم التغير في المخرجات المرئية، مما يشير إلى توتر جوهري بين العدالة على مستوى العمليات الداخلية والمخرجات. يلقي هذا البحث الضوء على أهمية إعادة تقييم كيفية قياس العدالة في تقنيات الذكاء الاصطناعي ويعد دعوة لتطوير أطر عمل أكثر شمولاً.

ما رأيكم في هذه النتائج المثيرة؟ شاركونا آراءكم وتجاربكم في التعليقات!