في عالم يتزايد فيه اعتماد وكالات الذكاء الاصطناعي (AI Agents) على الموارد الحساسة مثل الوثائق الخاصة وأنظمة التشغيل المتغيرة، تزداد المخاطر المرتبطة بالسلامة والأمان. هنا يظهر ابتكار جديد يحمل اسم VEPA، وهو اختصار لجملة "السياسة الرسمية المتطورة المُعتمدة لضمان سلامة وكالات الذكاء الاصطناعي".

تتمثل الهدف من VEPA في إدخال "حواجز أمنية" يتيح لها اتخاذ قرارات واضحة وقابلة للتنبؤ قبل تنفيذ أي إجراء حاسم قد يكون له عواقب غير قابلة للعكس. وتظهر الحاجة الملحة لمثل هذه الحواجز حيث إن المتطلبات الخاصة بالسلامة والأمان غالبًا ما تكون غير مكتملة قبل عملية النشر، مما يستدعي ضرورة التطوير المستمر لهذه الحواجز لمواجهة المخاطر الجديدة التي قد تظهر.

تقوم الطرق الحالية بتكييف الحواجز من خلال التعلم من تجارب النشر، لكنها غالبًا ما تطبق سياسات السلامة من خلال استدلال LLM، مما يمكن أن يؤدي إلى اتخاذ قرارات غير متسقة وتفسيرات غامضة للسياسات.

تقوم الحواجز الرسمية بإنفاذ السياسات بطريقة حاسمة، ولكنها تعتمد عادةً على سياسات مُعدّة مسبقًا أو محددة المهام، مما يجعلها غير قادرة على التكيف مع المخاطر الجديدة التي يُمكن ملاحظتها.

يقدم VEPA إطار عمل جديد يتيح تطورًا موثوقًا للمحاور الرسمية. يمثل VEPA الحاجز كسياسة رسمية تتكون من قواعد رمزية قابلة للتنفيذ لتعزيز أنواع معينة من أحداث الوكيل. خلال عملية النشر، يتم توجيه LLM بواسطة التغذية الراجعة لتقديم تعديلات على السياسات لتحسين أي أخطاء جديدة لوحظت مع الحفاظ على السلوك الصحيح السابق.

ثم يقوم مُحقق حتمي بقبول السياسات التي تكون صحيحة من الناحية الهيكلية وخالية من الصراعات. أخيرًا، تُفعِّل طبقة السلطات المعتمدة على الأدلة القاعدة التي تم التحقق منها فقط عندما يكون لديها أدلة تدعم ذلك، مما يمنع التحديثات غير المؤكدة من التأثير المباشر على قرارات الحواجز.

عبر تقييمات متعددة مثل ASSEBench-Safety وASSEBench-Security وATBench، أظهر VEPA باستمرار أداءً متفوقًا على الحلول التقليدية مع توسيع نطاق إنفاذ السياسات الرسمية الحتمية. كما أن هذه المكاسب تظل قوية حتى في ظروف النشر الأكثر تحديًا، مثل تداخل البيانات واستجابة مفسدة وفترات زمنية أطول.

ما رأيكم في هذا التطور المذهل الذي يهدف إلى تحسين سلامة وكالات الذكاء الاصطناعي؟ شاركونا في التعليقات!