في عالم الذكاء الاصطناعي، تبرز نماذج اللغات الكبيرة (LLMs) كأدوات قادرة على تنفيذ مهام معقدة مثل تصفح الويب، وتوليد الأكواد، وتنظيم سير العمل. ولكن مع هذه القدرات تبرز تحديات جديدة تشمل الوهم (hallucination) وعدم استقرار التوزيع (distributional instability) والتلاعب العدائي (adversarial manipulations)، مما قد يؤدي إلى عواقب وخيمة.

لتجاوز هذه العقبات، تم تقديم إطار عمل جديد يسمى ContrAgent، والذي يوفر إشرافاً رمزياً على سلوك الوكلاء (agents) عبر استخدام العقود. يقوم ContrAgent بتوثيق سلوك الوكيل كمتسلسلة من استدعاءات الأدوات (tool calls) ويقوم بتحليلها من خلال معايير قابلة للتحقق.

يعتمد ContrAgent على عقود فرضية وضمان (assume-guarantee contracts) مكتوبة بلغة منطق زمنية خطية (Linear Temporal Logic) لتحديد السلوكيات المطلوبة. وتتم معالجة كل عقد باستخدام آلة حالات محددة (Deterministic Finite Automaton - DFA) لأداء دورين هامين؛ الأول التحكم في تصرفات الوكيل أثناء العملية، والثاني تقييم السلوكيات المسجلة بعد انتهاء العملية.

بالإضافة إلى ذلك، يحافظ ContrAgent على مكتبة من العقود تعمل كقاعدة بيانات معرفية قابلة لإعادة الاستخدام، مما يجعل من الممكن تطبيقها عبر وكلاء مختلفين ضمن نفس مجال المهام.

لقد أظهرت نتائج فعالية هذه التقنية عبر أربعة معايير مختلفة، حيث أثبت ContrAgent تفوقه مقارنة بالمعايير المستخدمة سابقًا، بما في ذلك الحفاظ على السرعة وتقليل زمن الاستجابة بشكل كبير لكل استدعاء.

مع هذه الابتكارات، يمكننا أن نتوقع تحقيق مستوى أعلى من الأمان والموثوقية في استخدام نماذج اللغات الكبيرة، مما يعزز من قدرتها على العمل بشكل آمن وفعال في تطبيقات متعددة.