في عالم الذكاء الاصطناعي، يعتبر تدريب الوكلاء (agents) بشكلٍ آمن أمراً بالغ الأهمية، خاصةً في البيئات الحرجة التي نعيش فيها. كيف يمكن للآلات أن تتعلم بشكلٍ آمن وتفعيل سياسات لديها فعالية وقابلية للتطبيق في ظروف غير معروفة؟

تناولت دراسة جديدة تحت عنوان "تعليم سلوك الوكلاء الآمن من خلال تفضيلات البشر وتبريراتهم عبر نماذج العالم (World Models)" هذه القضية من منظور جديد. إذ أثبت الباحثون أنه من الممكن استخدام تفضيلات البشر لإدارة وتعليم هذه الوكلاء بشكلٍ يُعزز من سلامتهم ويزيد من فعالية أدائهم.

بدلاً من الاعتماد على التعلم المعزز التقليدي، الذي قد يكون غير عملي في ظروف معينة، يعتمد نموذج جديد يُدعى "DROPJ" على موارد المعلومات البشرية. يقوم هذا النموذج أولاً بإنشاء نموذج عالمي (نموذج محاكاة) عبر تحليل بيانات سابقة من حركات العالم الواقعي. بعد ذلك، يلعب الإنسان في هذه المحاكاة لاستنتاج مسارات مختلفة، حيث تتم مقارنة القطع المختلفة من هذه المسارات. يتم بعد ذلك استخراج تفضيلات البشر وتبريراتهم لاختيار مسار معين.

هذا التفاعل بين المستخدم والنموذج يُسهم بشكل كبير في تحسين الأداء أثناء التدريب والنشر. وقد أظهرت النتائج أن استخدام تفضيلات البشر بدلاً من أنواع أخرى من التغذية المرتدة يزيد من فعالية الأداء.

علاوةً على ذلك، أكد الباحثون أن تبريرات السلامة المرافقة للتفضيلات تعزز الأمان بشكل كبير، بحيث تتوافق هذه التفضيلات مع أولويات المستخدم في عالم يتطلب دقة عالية من السلامة.

إذا كنت مهتمًا بعالم الذكاء الاصطناعي وتطوراته المثيرة، يجدر بك متابعة هذه الأبحاث وكيفية تأثيرها على المستقبل. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!