تتجه الأنظار في مجال القيادة الذاتية نحو النماذج المستندة إلى Transformers، التي تُعتبر رائدة في التقاط الاعتمادات المكانية الطويلة والتفاعلات متعددة الوكلاء والسياقات المتعددة. ومع ذلك، تظل عملية تنفيذها في المركبات الفعلية تمثل تحدياً كبيراً، نتيجة للمسؤوليات العالية فيما يتعلق بالذاكرة، والطاقات، وفترات الانتظار التي تفرضها هذه النماذج المعتمدة على الآليات الانتباهية.

يستعرض هذا البحث النماذج الممثلة من القيادة الذاتية المستندة إلى Transformers ويصنفها وفقاً لدور المهمة، وتكوين الاستشعار، وتصميم الهيكل. الأهم من ذلك، يُنظر إلى هذه النماذج من زاوية تركز على إمكانية التنفيذ، حيث يتم تحليل كيفية إعادة تشكيل قيود الكفاءة لاختيارات تصميم النماذج في الواقع.

بالإضافة إلى ذلك، يتم التعريف باستراتيجيات الضغط والتسريع ذات العلاقة بأنظمة القيادة الذاتية القائمة على Transformers، مثل التكميم (Quantization)، والتقليم (Pruning)، واستنساخ المعرفة (Knowledge Distillation)، والتقريب منخفض الرتبة (Low-Rank Approximation)، والانتباه الفعال (Efficient Attention). يتم استعراض فوائد هذه الطرق، والقيود المرتبطة بها، وقابلية تطبيقها حسب المهمة.

بدلاً من اعتبار الضغط خطوة معالجة معزولة، نُبرز أنه يعتبر اعتباراً تصميمياً على مستوى النظام يؤثر مباشرةً على قابلية التنفيذ، والصلابة، والسلامة. وفي الختام، يتم تحديد التحديات المفتوحة والاتجاهات البحثية المستقبلية نحو تقييم أنظمة القيادة الذاتية الفعالة بطريقة موحدة وواعية لمعايير السلامة والعتاد.