في عصر تعتمد فيه الأنظمة الذكية على كفاءة التعلم، تُعد تقنية الانتباه (Attention) من المكونات الأساسية لنماذج التحويل (Transformers) في مجال الذكاء الاصطناعي. ومع ذلك، كانت تظهر تحديات كبيرة تتعلق بالتعقيد الحسابي الذي يزداد بشكل كبير مع زيادة حجم الإدخال، وكذلك عدم قدرة نسخ الانتباه الخطية على التركيز بشكل فعال.

قدمت دراسة حديثة تهتم بطرح مفهوم الانتباه العام (Generalized Attention) بصورته الرياضية، وأكدت على أن هذا النوع من الانتباه يميل إلى التفريق؛ بمعنى أن عدد المفاتيح عندما يميل إلى اللانهاية، سيعطي الاستعلام (Query) وزناً متساوياً لجميع المفاتيح. بدافع من خاصية التفريق وتطوير شكل الانتباه Mamba، تم تصميم تقنية سريعة وفعالة تُسمى SEMA، والتي تستفيد من توطين الرموز (Token Localization) لتجنب التفريق، مع الحفاظ على التركيز، مدعومة بوسائل حسابية متسقة بالتناسب في السعي حول جوانب الانتباه العامة.

لقد دعمت أبحاثنا على مجموعة بيانات Imagenet-1k حيث أظهرت نتائج التصنيف أن SEMA ليست فقط بديلًا فعالًا للتقنيات السابقة، بل تتفوق على نماذج Mamba الخاصة بالرؤية في مقاييس أكبر من الصور مع أحجام نماذج مشابهة. إن هذه الابتكارات لا تُعزز فقط فاعلية الأنظمة الذكية، بل تفتح أيضاً آفاقاً جديدة لتحسين الأداء في التطبيقات المتعددة للرؤية الحاسوبية.

ما رأيكم في هذه التقنية الجديدة؟ هل تعتقدون أنها ستحدث ثورة في مجالات الرؤية الحاسوبية؟ شاركونا آرائكم في التعليقات!