في عالم يتزايد فيه اعتمادنا على الوكلاء الذكاء الاصطناعي المستقل، يتعرض هؤلاء الوكلاء لتهديدات متعددة تشمل هجمات حقن الأوامر، وسرقة الذاكرة، وهجمات سلسلة التوريد، والهندسة الاجتماعية. يأتي هنا دور "كلودغو" (ClawdGo)، إطار تدريبي مبتكر يهدف إلى تعزيز الوعي الأمني لدى هذه الوكلاء، مما يمكّنهم من التعرف على التهديدات والتفاعل معها بشكل فعّال ودون الحاجة لتعديلات على النماذج.
**مساهمات جديدة تميز الإطار:**
1. **تصنيف تخطيط ثلاثي المستويات (TLDT)**: ينظم هذا التصنيف 12 بعدًا قابلًا للتدريب ضمن ثلاث طبقات رئيسية: الدفاع الذاتي، حماية الملك، وأمن المؤسسة.
2. **تدريب الوعي الأمني المستقل (ASAT)**: يقوم هذا النظام بخلق حلقة تفاعل ذاتية حيث يتنقل الوكيل بين أدوار المهاجم والمدافع والمقيم، مما يعزز من فعاليته.
3. **تراكم الذاكرة عبر الجلسات (CSMA)**: يساعد هذا النظام الوكيل على تحقيق مكاسب مستدامة من خلال بنية ذاكرة معقدة من أربع طبقات.
4. **مشكلة معايرة الوعي الأمني (SACP)**: تصف هذا النظام التوازن بين الدقة والاسترداد الناتج عن التدريب الداخلي.
أظهرت التجارب المباشرة أن ASAT، باستخدام منهج "الأضعف أولاً"، رفع متوسط درجات TLDT من 80.9 إلى 96.9 عبر 16 جلسة، متفوقًا على الجدولة العشوائية بمعدل 6.5 نقطة، وغطى 11 من 12 بعدًا. وبفضل CSMA، احتفظ الوكيل بكامل المكاسب على مر الجلسات، مقابل فقدان كبير للنقاط مع التجارب الأولية.
لم تكن النتائج فقط مثيرة، بل تنبأت أيضًا بوجود مواقف حقيقية تتماشى مع جميع الأبعاد الـ 12. تم ملاحظة مشكلة SACP عندما صنف وكيل مدرب بشكل كبير تقييم قدرة حقيقي كحقن أوامر.
في ضوء هذا البحث المثير، يبدو أن مستقبل الوكلاء الذكاء الاصطناعي المستقل سيكون مزودًا بوعي أمني عميق، مما يُعد خطوة هائلة نحو أمان التطبيقات الذكية.
کلودغو: إطار تدريبي مثير للوعي الأمني في الوكلاء الذكاء الاصطناعي المستقل!
يقدم بحث جديد إطارًا مبتكرًا لتدريب الوكلاء الذكاء الاصطناعي على الوعي الأمني الداخلي. تقنية ClawdGo تعزز قدرة هذه الوكلاء على التعرف على التهديدات والتفاعل معها بشكل أفضل من أي وقت مضى.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
