في خطوة مثيرة للدهشة، قدم باحثو الذكاء الاصطناعي مفهومًا جديدًا يُعرف بالحياد الأولي (prefix invariance)، الذي يتطلب أن لا تعتمد التمثيلات عند موقع معين على المدخلات المستقبلية. هذه الفرضية تثير تساؤلات عميقة حول كيفية بناء نماذج الانتباه (Attention Models) الخاصة بنا وما إذا كانت تفي بالمعايير المطلوبة في تحليل البيانات.

لقد أجرينا تدقيقًا خفيف الوزن يمكن من خلاله تحديد بالضبط أين يحدث كسر في العلاقة السببية، باستخدام عمليتين تقدميتين بدون تدريب أو تدرجات أنموذجية. واكتشفنا أن فحص قناع الانتباه (Attention Mask Inspection) ليس كافيًا، حيث يمكن أن تحدث تسريبات غير متوقعة عبر عمليات الفحص أو التطبيع حتى في وجود أقنعة صحيحة.

عبر 192 تجربة افتراضية على ثمانية نقاط تفتيش، لم يتمكن فحص القناع من العثور على أي خلل، بينما تمكن تدقيقنا من تحديد جميع الأخطاء الـ192/192، كما اكتشفنا عيبًا في كل من زامبا 2 (Zamba2) ونيموترون-إتش (Nemotron-H).

هذا الاكتشاف يدعو المجتمع الأكاديمي والصناعي إلى مراجعة أساليبهم في بناء وتقييم نماذج الذكاء الاصطناعي لضمان موثوقيتها وفعاليتها. ما رأيكم في هذه النتائج؟ وهل تؤثر على ثقتكم في الذكاء الاصطناعي؟ شاركونا في التعليقات.