في عالم الذكاء الاصطناعي، تعد نماذج اللغة الضخمة (Large Language Models) أدوات قوية تفتح آفاقًا جديدة في معالجة اللغة وفهمها. ومع ذلك، تواجه هذه النماذج تحديًا كبيرًا يتمثل في "هلوسة الأدوات" (Tool Hallucination)، حيث تستدعي نماذج LLM أدوات غير موجودة أو تستخدم برمجيات بدون هيكل معتمد.

أحدثت دراسة جديدة نشرت على منصة arXiv ثورة في طرق التعامل مع هذه المعضلة. تكشف الدراسة عن أن الدفاعات الحالية، سواء عبر اختيار الأدوات الصحيحة أو تقييد استخدام الأدوات الحقيقية، لا تكفي لتصحيح هذا الخلل الأساسي. فقد أظهرت النتائج أن أي استدعاء وهمي هو في جوهره ليس قرارًا يعتمد على أي بوابة، وبالتالي لا يمكن تصنيفه ضمن الدفاعات المعتادة.

تم تقديم تصنيف جديد لهلوسة الأدوات يضم خمس فئات متعارف عليها (H1-H5)، بالإضافة إلى نموذج "المحلل المغلق" (closed-world resolver) الذي لا يتطلب تدريبًا مسبقًا، حيث يركز على موقعه أكثر من تركيزه على ما يقوم بحسابه.

علاوة على ذلك، تمت دراسة النتائج عبر عشرة نماذج مختلفة تحت سطحين مختلفين للاستدعاء، حيث تم قياس 322 هلوسة حقيقية. اللافت أن مكالمات الأدوات الوهمية كانت تتركز بشكل كبير على سطح JSON الخام غير المقيد، والتي زادت بشكل كبير مقارنة بتلك المدروسة.

هذه الدراسة ليست مجرد تحليل، بل تسعى إلى إرساء قواعد جديدة لمواجهة تحديات هلوسة الأدوات ونشر Benchmark خاص بتلك الأدوات الحالمة (Hallucinated-Tools Benchmark - HTB) ليكون معيارًا يمكن المقارنة بين أي أنظمة حالمة تقدم مستقبلًا.

بذلك، تمثل هذه العمل خطوة هامة نحو تحسين موثوقية وفعالية نماذج لغة الذكاء الاصطناعي، مما يفتح آفاقًا جديدة للابتكار ويدعو الباحثين والمطورين إلى تبني هذه الأساليب الجديدة.