في عالم مليء بالغموض وعدم اليقين، كيف يمكن لوكيل ذكي مثل أنظمة الذكاء الاصطناعي أن يتخذ قرارات حكيمة؟ الإجابة تأتي من جديد مثير للاهتمام يُدعى RATTL (Risk-Adversarial Total-Reward Learning).

تسعى تقنية RATTL إلى ربط مستوى الحذر بعدم اليقين الإبستمي (epistemic uncertainty) الذي يواجهه الوكيل. حيث يحتفظ الوكيل بتوزيع بايزي على الديناميات غير المعروفة، وينظم خططه وفق مجموعة من عدم اليقين تُعرف بانحراف واسيستين (Wasserstein ambiguity set).

ما يجعل هذه التقنية مبتكرة هو أن نصف قطر عدم اليقين يتقلص مع توفر الأدلة، مما يُمَكن الوكيل من التبديل بسلاسة بين تكتيك التحمل في أسوأ الظروف والقيام بأقصى تحقيق لمجموع العوائد دون مخاطر. يتبع تصميم RATTL الثنائية الكامنة خلف ما يُعرف بقيمة المخاطر الانتروبية (Entropic Value-at-Risk)، مما يحول اختيار مستوى المخاطر إلى اختيار نصف قطر الغموض.

عبر دراسة القضايا الشائعة للتخطيط، نجد أن مشكلة التخطيط الناتجة تعد صحيحة وقابلة للتحليل تحت شروط النقص والتجمع. وعلاوة على ذلك، فإننا نقدم مفهوم "شريحة الأمان" (Safety Sandwich)، حيث تكمن قيمة RATTL بين القيمة غير المعلومة وقيمة المعرفة الكاملة، بفجوة تتلاشى مع تركيز التوزيع البايزي.

في مثال عملي حول الحوادث الثنائية، يتقلص المعيار الناتج إلى قيمة المخاطر الشرطية بمستوى محدد وفقاً لانتروبيا التوزيع البايزي.

تستهدف تقنية RATTL تحقيق السلامة أثناء فترة التشغيل للوكيل، بما في ذلك الأنظمة المعتمدة على نماذج اللغات الضخمة (Large Language Models) التي تعمل تحت ظروف عدم اليقين. كيف تعتقد أن هذه التقنية ستؤثر على تطوير الذكاء الاصطناعي في المستقبل؟ شاركونا آرائكم في التعليقات!