في عالم الذكاء الاصطناعي، تُعتبر المتشفيرات الآلية النادرة (Sparse Autoencoders) واحدة من الأدوات الأساسية لتمثيل البيانات بشكل فعال. لكن ما الجديد في هذا المجال؟ في دراسة حديثة تم نشرها على arXiv، يبحث الباحثون في كيفية تأثير البنية الهندسية للبيانات على أداء هذه المتشفيرات. تُظهر الدراسة أن الخطأ في إعادة البناء يختلف بشكل حاد عبر الطبقات، مما يتناقض مع القوانين الحالية للتوسع التي تركز على طبقة واحدة فقط. يظهر التحليل أن هذا الاختلاف يمكن أن يُعزى إلى عدم تطابق هندسي، حيث يتغير بُعد التفاعل داخل الطبقات، مما يجعل من الصعب على أي قاموس خطي نادر تلبية احتياجات كل طبقة بشكل متساوي.

هذه الدراسة هي الأولى من نوعها التي أُجريت عبر طبقات عديدة، حيث تم تحليل 844 نقطة تفتيش مختلفة بعمق 68 طبقة من نموذجين مختلفين. وتمكنت النتائج من تحديد كيفية تأثير الهندسة الكامنة في عدة طبقات على أداء المتشفيرات، مما يشير إلى وجود قانون هندسي قابل للنقل بين النماذج المختلفة. بالإضافة إلى ذلك، كشفت النتائج أن هناك علاقة قوية بين انحناء البيانات وأداء المتشفيرات، حيث ترتبط الزيادة في الانحناء بزيادة الإمكانيات للأداء.

ينتج عن هذه الاكتشافات مفهوم جديد حول حدود المتشفيرات: فبدلاً من أن تكون هذه الحدود مرتبطة بالموارد المحدودة، يبدو أنها مرتبطة بالهندسة الكامنة التي تحاول المتشفير إعادة بنائها. ماذا يعني هذا لمستقبل الذكاء الاصطناعي؟ قد تفتح هذه النتائج الجديدة طرقًا للتطوير وتحسين نماذج الذكاء الاصطناعي بطرق لم تُكتشف بعد.