في عالم الذكاء الاصطناعي المتطور، يقدم نيام-أي (NiyamAI) حلاً جديدًا ومبتكرًا لمشكلة هامة: كيفية ضمان سلامة الوكلاء الذكيين عند تنفيذ الأوامر. يعتمد هذا الإطار على فرضية أن منح الوكيل الذكي القدرة على إرسال الرسائل الإلكترونية أو الاستعلام عن قواعد البيانات يمكن أن يجعله عرضة لعمليات اختراق متوقعة، مثل حقن الأوامر الخادعة والاستنتاجات غير الدقيقة.

تستند حلول الدفاع التقليدية إلى فحوصات برمجية مثل تنبيهات النظام أو فلاتر السياسات، ولكنها تفتقر إلى القدرة على تقديم دليل موثوق على التنفيذ. يتمثل الابتكار في نيام-أي في إمكانية التحقق من سلامة الممارسات، حيث يتم تأمين الأدوات المسموح بها والقيود في عقد نية عبر خوارزمية SHA-256 عند بدء الجلسة.

تعمل نموذج الحكم المعزول على فحص كل استدعاء أداة للتحقق من صحته، ويتم إنشاء إثبات zk-SNARK عبر EZKL، بحيث تنفذ الأداة فقط بعد تحقق الإجراء. وبذلك، يمكن لجهات خارجية أن تؤكد سلامة التنفيذ دون الحاجة للوصول إلى أوزان نموذج الحكم.

بعد تقييم نيام-أي على 2000 سيناريو من Agent-SafetyBench، أظهرت النتائج تفوقًا ملحوظًا في الدقة؛ حيث حققت الإطار معدل F1 بنسبة 88.5% مع 1.1% فقط من الحالات الإيجابية الكاذبة. علاوة على ذلك، أظهرت الاختبارات الإحصائية تحسنًا واضحًا في الأداء مقارنة بحلول سابقة مثل NeMo Guardrails وMeta's Llama Prompt Guard 2.

بفضل هذه الميزات المتقدمة، يمثل نيام-أي حلاً ذكيًا وموثوقًا للتحديات المتزايدة في مجال أمان الذكاء الاصطناعي، وقد يغير الطريقة التي نتعامل بها مع الوكلاء الذكيين في المستقبل.