في عالم الذكاء الاصطناعي، تسعى نماذج الزجاجة المفاهيمية (Concept Bottleneck Models) إلى توفير تمثيلات متوسطة قابلة للتفسير. ورغم أن هذا الهدف يبدو مثيراً، إلا أن كيفية تأثير هذه الزجاجات على قوة النماذج لا تزال غامضة.!

تعددت الدراسات حول هذا الموضوع، وأظهرت نتائج مختلطة وأحياناً متناقضة. لماذا يا ترى تنشأ هذه التباينات؟

نعتقد أن المشكلة تكمن في خلط مفاهيم مختلفة عن القوة والصلابة مع اضطرابات متعددة. وتحديداً، قدمنا إطار تقييم يعتمد على المولدات يمكّن المقارنات المتحكم بها بين المصنفات التقليدية ونماذج الزجاجة المفاهيمية تحت نوعين متميزين من الاضطرابات: الاضطرابات الهندسية المستمرة في الفضاء الكامن والاضطرابات الدلالية المتقطعة في فضاء المفاهيم.

عبر هذا الإطار، قمنا بتقييم الصلابة من خلال مقاييس حساسية على مستوى التنبؤ والمفاهيم، وكذلك باستخدام أساليب التنعيم العشوائي في الفضاءات الكامنة وفضاء المفاهيم. أظهرت نتائج التجارب قدرة على توضيح متى، وبأي معنى، تحسن نماذج الزجاجة المفاهيمية من القوة، متآلفين بذلك بين النتائج المتضاربة السابقة.

وعلاوة على ذلك، أظهرنا من خلال تحليل الصلابة تحت شروط مهام متباينة، أن قابلية التفسير لا تعني بالضرورة القوة، بل إن نماذج الزجاجة المفاهيمية تعيد توزيع الحساسية ودينامياتها عبر الفضاءات. في النهاية، تظهر نتائجنا أن قابلية التفسير والصلابة هما هدفان متميزان: تمثيلات متوسطة قابلة للتفسير لا تحسن القوة بشكل موحد، بل تعيد توزيع الحساسية في نماذج مختلفة.