هل يمكن أن تخذلنا الأبواب المرنة؟ تحليل عميق لأخطاء الوكالة في نماذج اللغات الضخمة

في عصر تتزايد فيه الاعتماد على نماذج اللغات الضخمة (Large Language Models) في مختلف المجالات، تصبح الأخطاء في الوكالة أمراً مثيراً للقلق. زيادة استخدام وكلاء نماذج اللغات الضخمة للأدوات مثل المدفوعات والبريد الإلكتروني وواجهات برمجة التطبيقات أصبَح يمثّل تحدياً أمنياً. كيف يمكن أن يؤدي الخلط بين إمكانية الوصول والتفويض إلى مخاطر غير متوقعة؟

بحثنا في كيفية تعاطي ثلاثة أطر رئيسية مع هذا الموضوع: LangChain وLangGraph وLlamaIndex، بالإضافة إلى مجموعة أدوات Stripe. كان من السهل ملاحظة أن جميعها تقدم إمكانية الوصول الافتراضية، لكنها تفتقر إلى بوابات تفويض مضمونة لكل استدعاء، ما قد يفتح المجال لقرارات غير مصرح بها في التنفيذ.

لقد أطلقنا تقنية جديدة تُدعى ScopeGate، وهي عبارة عن نظام مكون من خمسة مراحل للتحكم في استدعاءات أدوات العملاء: نطاق الاستخدام، التفويض، السقف المالي، التكرارية، والإنكار الافتراضي. أظهرت التقييمات أن استدعاء الدفع غير المصرح به قد تم تنفيذه تحت الإعداد الافتراضي في LangChain، لكن تم منعه بواسطة ScopeGate، مما يعكس كفاءتها بشكل كبير.

على الرغم من التحديات المرتبطة بهذه الأنظمة، فإننا نعتبر أن الاعتماد على تقنيات مثل ScopeGate قد يمثل خطوة مهمة نحو تعزيز أمان استخدام نماذج اللغات الضخمة في التطبيقات الحياتية اليومية.