تحديات الذكاء الاصطناعي: لماذا تفشل نماذج عدم اليقين كإشارة للمخاطر في التعلم المعزز القائم على النماذج؟

في عالم الذكاء الاصطناعي، تلعب التغذية الراجعة من العالم (world feedback) دورًا حيويًا في تحسين تفاعلات النماذج. فعلى الرغم من التطورات المتسارعة في التعلم المعزز القائم على النماذج (model-based reinforcement learning)، إلا أن الاعتماد على نماذج عدم اليقين (uncertainty models) كإشارة للمخاطر قد أظهر عيوبًا واضحة.

في دراسة حديثة، يتبنى برنامج RLxF (Reinforcement Learning from Feedback) مفهوم أن إشارات التعلم يجب أن تأتي من التغذية الراجعة الخارجية بدلاً من النماذج الداخلية. وقد تم تطبيق هذا المبدأ على أساليب التحكم في النماذج بطريقة آمنة، واستخرجت الدراسة ثلاث مبادئ تصميم ملموسة.

عبر تقييم أربع هياكل لنماذج العالم متباينة الأداء، أظهرت النتائج أن استخدام نماذج داخلية لتنظيم المخاطر يزيد من معدلات التصادم من 26% إلى 34%. وهذا يعني أن الإشارات التقليدية المستخدمة لتقدير المخاطر ليست فعالة في ضمان السلامة. بدلاً من ذلك، عُوِّضَت نماذج المخاطر الداخلية بإشارات تغذية راجعة من العالم، مما ساعد في خفض معدلات التصادم إلى ما بين 1% و14% بدون الحاجة لإعادة تدريب النموذج.

إن تقديم ثلاثة إشارات تغذية راجعة، تشمل هامش مستمد من حساسات مثل الليزر، وإشارة زمنية من الوقت حتى التصادم، ونموذج تغذية راجعة مدرب على نتائج التصادم السابقة، يمكن أن يُحدث فرقًا كبيرًا. هذه الآليات تبيّن فشل نماذج عدم اليقين في تقديم حلول واقعية حيث يرتكز خطر المهمة فوق حدود القيود.

واستنادًا إلى النتائج، يوصي الباحثون باعتماد ثلاثة مبادئ من برنامج RLxF: تحديد المخاطر الأرضية في نتائج العالم، التحقق من صحة النماذج قبل النشر، واستبدال نماذج التغذية الراجعة المدربة على النتائج عندما تكون الإشارات المباشرة غير متاحة. يمكن تطبيق هذه المبادئ بشكل متساوي على أساليب التحكم القائمة على النماذج وطرق التحقق في تناسق نماذج اللغات الضخمة (LLM).

هل تتفقون مع هذه الآراء حول أهمية التغذية الراجعة العينية؟ شاركونا آراءكم في التعليقات.