في عصر الذكاء الاصطناعي (Artificial Intelligence) المتطور، أصبح لدينا وكلاء ذكيون (AI Agents) يقومون بمهام تلقائية، لكن مع هذه التطورات تظهر تحديات جديدة. واحدة من أبرز هذه التحديات هي معرفة من يقف وراء هذه الوكلاء، خاصة عندما تتسبب تصرفاتهم في الأذى.

تطرح الدراسات الجديدة فكرة "تتبع الوكلاء"، حيث يتم تحديد الجهة المسؤولة عن إطلاق وكيل ذكاء اصطناعي. المشكلة تكمن في أنه لا يوجد حاليًا نظام موثوق يمكننا من تعقب وكيل مضر إلى الحساب الذي أطلقه. هذا الأمر يحفز فجوة في المساءلة، فرغم أن بعض المشغلين قد يكونون حسن النية ويتسببون في الأذى عن طريق إعدادات خاطئة، إلا أن آخرين قد يستخدمون هذه التكنولوجيا لشن هجمات أو للاحتيال.

يدرك الباحثون أنه في العديد من الحالات، يعتمد هؤلاء الوكلاء على نماذج مستضافة من قِبل البائعين. ورغم تطور التكنولوجيا، تبقى مسؤولية تحديد الجهة المسؤولة عن سلوك الوكلاء في أيدي المتأثرين الذين لا يستطيعون الإبلاغ أو حتى وقف جلسة التشغيل.

لقد قام الباحثون بتعريف هذه المشكلة تحت مسمى "نسبة الوكيل" (Agent Attribution). وتحمل هذه الدراسة في طياتها أول مقاربة عملية لمواجهة هذا التحدي. حيث يقوم طرف مخول بإدخال علامة "كناري" (Canary) في تدفق تفاعل الوكيل، فيسعى البائع إلى استرجاع الجلسة الأصلية من خلال سجلات جلوس ضيقة.

تعتبر هذه المقاربة مفيدة في البيئة غير العدائية، ولكنها تشمل أيضًا تطوير علامات قوية لا يمكن محوها بدون التأثير على أداء الوكيل نفسه، مما يمنح ميزة لفائدة الدفاع.

تناولت الدراسة في تقييمات متعددة سيناريوهات من العالم الحقيقي، وأظهرت نتائج موثوقة وقابلة للتطوير، ما يجعل هذه الطريقة ذات قيمة في تحسين النظم الأمنية للذكاء الاصطناعي.

كيف يمكن تحسين مسؤولية وكلاء الذكاء الاصطناعي؟ دعونا نتبادل الآراء في التعليقات!