في عالم الذكاء الاصطناعي، تظل أنظمة النماذج اللغوية الضخمة (Large Language Models) متعددة الوكلاء تمثل تحديًا كبيرًا يُعرف باسم انهيار الدقة (Correctness Collapse). هذا التحدي يظهر عندما تخفي الأنظمة أداءً عاليًا على مستوى المهمات التفصيلية، بينما تكشف عن فشل كبير على مستوى العمليات. وتزداد خطورة هذا الأمر في البيئات الحساسة مثل قمرة القيادة في السيارات، حيث يمكن أن تؤدي التصريحات الصحيحة من الناحية الشكلية إلى تنفيذ عمليات خطرة.
للأسف، تعتمد الطرق الحالية في تحليل الأخطاء على النصوص فقط، متجاهلة بنية الاعتماد (Dependency Structure) والأدلة متعددة القنوات (Multi-channel Evidence) والتقييم الواعي بالأمان. ولكن مع CockpitHAT، تم تقديم إطار عمل جديد يأخذ بعين الاعتبار هيكل الاعتماد ويعوض عن النوافذ الموضعية من خلال تحديدات مسافة الاعتماد استنادًا إلى الرسم البياني الموجه من التفاعل (Interaction DAGs).
يكامل CockpitHAT الأدلة متعددة القنوات باستخدام محول تجسيد (Embodied Adapter) ويطبق تعزيز السلامة على الأخطاء عالية المخاطر خلال التوافق بالاستناد إلى الوزن الخاص بالثقة للمحللين. إضافة إلى ذلك، تم إصدار CockpitBench، وهو معيار يتضمن 212 مسار فشل موثق، يغطي قنوات الحوار، وبيانات حالة السيارة، والبيئة، والذاكرة، وكلها مشروطة بمدى خطورة الإجهاد وفقًا لمعايير ISO 26262.
النتائج تظهر أن CockpitHAT يحقق دقة عالية في تحديد مستوى الوكيل ومستوى الخطوة، حيث وصلت النسبة إلى 77.9% و37.8% على التوزيع المُعد يدويًا، و86.5% و46.0% على التوزيع المُولد عن طريق الخوارزميات، متفوقًا على الأداء السائد (SOTA ECHO) بنسب تصل إلى 17.6 و16.7 نقطة. على CockpitBench، تحققت نسبة دقة 78.3% على مستوى الوكيل و38.2% على مستوى الخطوة.
تأسس كل ذلك كإثبات أن تحليل الأخطاء الواعي بالاعتماد، متعدد القنوات، والمعدل وفقًا للمخاطر يمثل إطارًا فعالاً لتشخيص الفشل بشكل موثوق في أنظمة LLM ذات الوكلاء المتعددة في العالم الحقيقي.
CockpitHAT: ثورة في فهم الأخطاء في أنظمة الذكاء الاصطناعي متعددة الوكلاء
تقدم CockpitHAT إطار عمل جديد لتحليل الأخطاء في أنظمة الذكاء الاصطناعي متعددة الوكلاء، مما يزيد من دقة التنبؤ بالأخطاء في بيئات حيوية مثل قمرة القيادة. اكتشافات هذه الدراسة تمثل خطوة مهمة نحو أمان أكبر عند استخدام نماذج اللغات الضخمة (LLMs) في التطبيقات الحساسة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
