في عالم نماذج اللغة الضخمة (Large Language Models)، يعد فهم كيفية تحسين الأداء عبر مجالات متعددة أمراً بالغ الأهمية. تكشف دراسة حديثة عن تعارض المحولات (Adapters) وتطرح أسئلة جديدة حول دور الهندسة في تحقيق ذلك.

الدراسة تبحث في كيفية تداخل التحديثات عبر المحولات وكيف تؤثر على الأداء بدون الحاجة لإعادة تدريب النماذج. فرضية شائعة هي أن هذا التداخل ينشأ من التداخل في التحديثات الخطية للمعايير. بناءً على ذلك، يُفترض أنه عبر فرض الاستقلالية الإتجاهية أو العمودية، يمكن تحسين الأداء بين المجالات.

استخدم الباحثون إطار عمل DoRA-RBAC، الذي يقوم على تكيف منخفض الرتبة غير خطي، لمقارنة أساليب دمج تقليدية مع استراتيجية دمج مستوحاة من الهندسة. النتائج أظهرت أن أداء مجال واحد يتطابق مع LoRA، لكن الدمج المعتمد على الهندسة لم يقدم ميزة متسقة في الأداء عبر مجالات متعددة. كما كشفت التحليلات التشخيصية أن محاذاة الزوايا والعمودية لتحديثات المحولات ليست مؤشرات قوية على أداء التركيب.

تؤكد هذه النتائج على أن تعارض المحولات لا يحكمه في الأساس هندسة فضاء المعايير، بل يرتبط بشكل أكبر بالتفاعلات في التمثيلات غير الخطية المشتركة. هذا الاكتشاف قد يعيد تشكيل كيفية تعاملنا مع دمج المحولات في النماذج المتعددة المجالات.