إعادة التفكير في التوجيه الخالي من المصنفات في تقنيات التقطير على السياسات: كيف يمكن تحسين النماذج المتقدمة؟

في عالم تطور الذكاء الاصطناعي، تتجه الأنظار نحو تحسين نماذج التقطير على السياسات (On-policy Distillation - OPD) وتحقيق أداء أفضل من خلال التوجيه الخالي من المصنفات (Classifier-Free Guidance - CFG). لكن كيف يمكننا فهم هذا التوجه بشكل أعمق؟

تارة أخرى، يؤكد الباحثون أن التوجيه الخالي من المصنفات يعد جزءًا أساسيًا من الأنظمة الحديثة. ومع ذلك، هناك نقص في الفهم حول سلوك هذه الأساليب عندما تُدمج في نماذج التعلم. وفقًا لأحدث الأبحاث، فإن الطرق الحالية تمتد بطريقة طبيعية نحو مطابقة السرعات الموجهة، غير أنه قد تبين أن هذا الهدف يفتقر إلى التحديد الكافي على مستوى الفروع.

تستند الفرضية إلى أن أخطاء الفروع السلبية والإيجابية يمكن أن تتعوض في التن predictions الموجهة. ومع ذلك، أوضحت الأبحاث أن هذه الديناميات قد تنكسر عندما تحتفظ النماذج بمعلومات حصرية في الفرع السلبي الذي لا يتوفر للطالب. تم تسميتها "عدم توازن الفرع السلبي" (Negative Branch Asymmetry - NBA).

لتصحيح هذا الخطأ، تم تقديم مفهوم جديد يعرف باسم "مطابقة الاتجاه الإيجابي" (Positive-Direction Matching - PDM). يعد هذا الهدف المعتمد على الفروع محددًا بشكل مستقل للتنبؤ الإيجابي واتجاه الشرط الخالي من المصنف.

عند تطبيق PDM على التحكم في الفيديو الكثيف إلى النادر، أكد الباحثون أن المطابقة التقليدية كانت حساسة جدًا لمقاييس التوجيه الاستدلالي. بينما تمكنت الإشراف الواعية بالفروع من تحقيق نقل أكثر قوة وفعالية للمعرفة.

تمثل هذه التطورات الواعدة خطوة نحو تحسين النماذج الحالية، مما يوفر آفاق جديدة في عالم الذكاء الاصطناعي.