هل تصدق ما تراه؟ وكالة متعددة الأنماط تبتكر أساليب جديدة للتصدي للهلاوس!

في عالم الذكاء الاصطناعي، حيث تتزايد استخدامات [الوكالات متعددة الأنماط](/tag/الوكالات-متعددة-الأنماط) (Multimodal Agents)، برزت أصوات جديدة تتحدث عن أهمية التعامل مع [الهلاوس البصرية](/tag/[الهلاوس](/tag/الهلاوس)-البصرية) - تلك الظواهر الغريبة التي تجعل الأنظمة تتصرف بطريقة غير دقيقة. هذه الوكالات، التي تعتمد على لقطات الشاشة والمستندات وصفحات الويب، تعرضت لفشل في [التفويض](/tag/التفويض) عندما يدفع ادعاء بصري غير صحيح النظام إلى [تنفيذ](/tag/تنفيذ) [أوامر](/tag/أوامر) غير مسموح بها.

يعتبر مفهوم '[تحويل](/tag/تحويل) [الهلاوس](/tag/الهلاوس) إلى [عمل](/tag/عمل)' هو المحور الرئيسي هنا. حيث يكون الادعاء غير المدعوم شرطًا مسبقًا يجعل من الممكن [تنفيذ](/tag/تنفيذ) [إجراءات](/tag/إجراءات) متميزة بدون إذن، مما يؤدي إلى عواقب وخيمة. وللتصدي لذلك، تم [اقتراح](/tag/اقتراح) [نموذج](/tag/نموذج) 'الوكايات المتعددة الأنماط الحاملة للأدلة' (Evidence-Carrying Multimodal Agents - ECA)، الذي يضع حدًا للادعاءات غير المدعومة من خلال [تقييم](/tag/تقييم) [موثوقية](/tag/موثوقية) [المعلومات](/tag/المعلومات).

تقوم [وكالة](/tag/وكالة) ECA بتجزئة كل طلب [أداة](/tag/أداة) إلى مكونات حاسمة، وتحصيل [شهادات](/tag/شهادات) نوعية من [التحقق](/tag/التحقق) المقيد. وهذا يسمح بوابة حاسوبية قابلة للتحديد بإعطاء الامتيازات فقط عندما تدعمها [الشهادات](/tag/الشهادات).

لا تخفي هذه [المعمارية](/tag/المعمارية) [أخطاء](/tag/أخطاء) الإدراك، بل تقوم بتحويل الاعتقاد الغامض إلى [معلومات](/tag/معلومات) واضحة يمكن [التحقق](/tag/التحقق) منها. من خلال [اختبارات](/tag/اختبارات) تتضمن أكثر من 1,900 هجوم، تكشف الخطوات الأربعة المستهدفة لتقوية النظام انخفاض نسبة تجاوز البوابات من 15% إلى 1.3%.

من خلال الحصول على [شهادات](/tag/شهادات) مستمدة من المحتوى، تسجل ECA معدل [تنفيذ](/tag/تنفيذ) غير آمن يبلغ 0% على [خط أنابيب](/tag/خط-أنابيب) مكون من 200 مهمة، مما يدعمه إطار [عمل](/tag/عمل) معين.

هذا يطرح مبدأ بسيط: [لغات](/tag/لغات) [النماذج](/tag/النماذج) يمكن أن تقترح إجراءات، ولكن يجب أن تكون [الأدلة](/tag/الأدلة) الخارجية هي الجهة التي تمنح الإذن لتنفيذها. مع دخول هذه التطورات الجديدة حيز التنفيذ، يبدو أننا نشهد تحولاً مثيرًا في كيفية تعامل الأنظمة مع مشكلة [الهلاوس البصرية](/tag/[الهلاوس](/tag/الهلاوس)-البصرية).