تتمحور التوجهات الحديثة في مجالات الذكاء الاصطناعي حول تطوير نماذج قادرة على التعلم من البيانات بشكل ذاتي، وتُعتبر نماذج الجيومعلومات الذاتية المُشرفة (GeoFMs) من أبرز هذه التطورات. تعلم هذه النماذج كيفية الحصول على تمثيلات قابلة للتحويل من بيانات الاستشعار عن بُعد، ولكن عملية تقييم أدائها في المهام التالية لا تزال تمثل تحدياً كبيراً.

تدور دراستنا حول ستة نماذج تمثيلية من عائلات مختلفة مثل التضمين المشترك (joint-embedding) وإعادة البناء (reconstruction) والتدريب المتعدد الأنماط (multimodal pretraining). هذه الدراسة تسلط الضوء على كيفية انتقال أدائها عبر مهام مثل التصنيف والتقدير والتجزئة تحت ظروف مختلفة تتعلق بتوافر التوصيفات (labels) وعمليات النقل التي يتم استخدامها.

لقد وجدنا أن تصنيفات النماذج تختلف حسب المهام وإعدادات التكيف، مما يشير إلى تعقيد السلوكيات الناتجة عن هذه النماذج. توضح عمليات الفحص الطبقي (layerwise probing) أن المعلومات المتعلقة بالمهام تكون في معظم الحالات أكثر تيسراً في الكتل المتوسطة للترانسفورمر (transformer) مقارنة بالتضمينات النهائية.

عند تنفيذ دراسات حالة على مهام التجزئة مثل PASTIS وSen1Floods11، برز تأثير إعدادات التكيف مثل تصميم المُفكك (decoder design) والتدريب الدقيق (fine-tuning) الذي قد يكون له تأثير كبير مثل اختيار نموذج (GeoFM) المحدد. علاوة على ذلك، قد لا تتوافق رؤوس التنبؤ الكثيف (dense-prediction heads) بشكل جيد مع كيفية تنظيم نماذج الجيومعلومات للمعلومات عبر العمق.

تظهر تحليلات CKA على دراسات الحالة أن عملية التدريب الدقيق لا تُعدل نماذج GeoFMs بشكل موحد عبر العمق، حيث تطرأ أقوى التغيرات في الطبقة الخطية الأولى من الوحدات متعددة الطبقات (MLP) في كتل ViT. تساهم هذه النتائج في فهم أسباب تغير تصنيفات موديلات GeoFM على المعايير المختلفة وتحفيز استراتيجيات تقييم وتكيف أكثر وعيًا بالتمثيل.