في عصر الذكاء الاصطناعي، يتمتع وكلاء نماذج اللغة الكبيرة (LLM) بقدرات متزايدة على التفاعل والتنفيذ. ومع ذلك، فإن هذا التطور يأتي مع تحديات أمنية خطيرة، حيث يمكن أن يؤدي استغلال المهارات من قبل جهات ضارة إلى تسرب البيانات أو تصعيد الامتيازات.

في هذا السياق، شهدت الساحة التقنية ظهور ClawSentry، وهي بوابة أمان مفتوحة المصدر تهدف إلى تعزيز الأمان في عمليات تشغيل وكلاء النماذج. يتحدد مفهوم المخاطر المتعلقة بالوكيل، الذي يمكن أن يظهر في أربع نقاط حساسة ضمن حلقة التحكم:
1. إدخال المهارات
2. نية الاستدعاء في وقت التنفيذ
3. التأثير خلال التنفيذ
4. عواقب ما بعد الفعل

تصميم ClawSentry يتضمن آلية مراجعة شاملة تُعرف باسم مراجعة حزمة المهارات قبل الاستخدام (FSPR)، تقوم بتدقيق الحزم المهارية قبل تنفيذها، وإحالة الحالات غير المحلولة إلى مراجعة محدودة القراءة من قبل الوكيل (locus A).

خلال وقت التشغيل، يقوم محرك اتخاذ قرارات ثلاثي المستويات بتطبيق عمليات مراجعة استنادًا إلى مستوى الغموض المتبقي.
- الطبقة الأولى (L1) حاسمة
- الطبقة الثانية (L2) تراجع المعاني المرسومة بالقواعد
- الطبقة الثالثة (L3) تبحث عن الأدلة بطريقة مقيدة

إحدى الميزات البارزة هي بروتوكول حزام الوكيل (AHP) الذي يطبق سياسة واحدة عبر أدوات مختلفة مثل Codex و Claude Code و Kimi CLI و Gemini CLI، مما يوفر تنسيقًا فعالًا للمهام.

تظهر البيانات أن استخدام ClawSentry أدى إلى انخفاض كبير في معدل الاستجابة غير المرغوب فيها (ASR) من 39.55% إلى 2.61%، بينما بقي معدل الاستجابة المطلوب (TSR) ثابتاً. تعتبر هذه الأداة ثورة في مجال أمن الذكاء الاصطناعي، مُظهرةً فعالية رائعة في تقليل المخاطر والأخطاء.

هل أنتم مستعدون لاستكشاف تأثير ClawSentry على أمان الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!