عالم الذكاء الاصطناعي: كيف تضمن الأنظمة متعددة الوكلاء أمان التفويض؟

في عصر متسارع تسود فيه تقنيات الذكاء الاصطناعي، تأتي الأنظمة متعددة الوكلاء (Multi-Agent Systems) كمكونات بارزة تسهم في تعزيز الأداء والكفاءة. لكن مع هذه الفرص، تظهر تحديات جديدة تتعلق بأمان التفويض. هنا يأتي دور سلسلة التفويض (Agentic Principal Chain - APC) التي تأخذ على عاتقها مساعدة الوكلاء في اتخاذ القرار بأمان.

تعمل الوكلاء المعتمدة على نماذج لغوية ضخمة (Large Language Models) على أداء مهام متعددة بالنيابة عن المستخدمين، مثل الوصول إلى خدمات السحاب أو استخدام أدوات متخصصة. لكن الإعدادات الأولية للوكيل تبقى ثابتة، مما يعني أن كل طلب يُقيَّم بشكل مستقل دون الأخذ في الاعتبار الأفعال السابقة. هذه الديناميكية يمكن أن تؤدي إلى تصرفات غير متوقعة أو حتى مضرّة، حيث قد يُجمع الوكيل بين الأفعال المسموح بها لإنتاج نتائج محظورة أو حتى يُفوّض السلطة لوكيل فرعي دون قيود.

تكمن المخاطر الحقيقية في حقائق التفويض نفسه، وليس فقط في سلوك النموذج. لذا تُقدِّم APC مجموعة من الفحوصات لضمان أمان التفويض، حيث تتعقب السلطات المُفَوَّضة من جهة إلى أخرى وتقيّم كل طلب بناءً على الحالة السابقة.

وقد أظهرت النتائج أن استخدام APC أدى إلى تقليل نسبة تسريب البيانات إلى 0% عبر جميع المجالات، بعدما كانت تتراوح بين 75-100%، مما يدل على فعالية هذا النظام في حماية البيانات. كما شهدت سلسلة التفويض انخفاضًا كبيرًا في المخاطر المرتبطة بالتلاعب، حيث انخفضت نسبة التدمير من 38.6% إلى 4%.

تُعتبر هذه التطورات خطوة رائعة نحو تعزيز الأمن في الأنظمة المُعتمدة على الوكلاء، مما يفتح الأبواب أمام بحوث وتطبيقات جديدة. تبقى الأسئلة مفتوحة: كيف يمكن للباحثين والمطورين الاستفادة من هذه الابتكارات؟