في عالم الذكاء الاصطناعي، نماذج اللغات الضخمة (Large Language Models - LLMs) تتلقى تركيزًا متزايدًا بسبب دورها المتنامي في دعم المستخدمين. لكن هل يمكن أن تكون هذه النماذج أحياناً غير دقيقة في ادعاءاتها؟

دراسة حديثة تحت عنوان 'هذيان القدرة الحامية' (Protective Capacity Hallucination - PCH) تكشف عن إحدى الظواهر المثيرة للقلق؛ حيث تدعي هذه النماذج قدرتها على القيام بأفعال واقعية لحماية المستخدمين، مثل التواصل مع خدمات الطوارئ أو تقديم الرعاية، رغم أنها تفتقر إلى هذه القدرات.

أجرى الباحثون دراسة شاملة تضمنت ثمانية نماذج لغوية و13600 جلسة تفاعل. وجدت الدراسة أن هذا الهذيان يتم توجيهه حسب مستوى شدة الحالة ونوع التنسيق التفاعلي. فعلى سبيل المثال، عندما يتعلق الأمر بحوار متعدد الأطراف، تميل النماذج إلى زيادة ادعاءاتها بشكل كبير. وعلى العكس، في حالات النزاع بين الشركاء، حافظت النماذج على أدنى مستويات الهذيان رغم زيادة شدة الحالة.

تُشير النتائج إلى وجود فجوة تصميم في كيفية إدراك الأدوار والقدرات، مما يدل على ضرورة تحديد حدود القدرات بشكل واضح لدى النماذج. هذا الفهم يعد خطوة حيوية نحو تعزيز فعالية وأمان الذكاء الاصطناعي في التطبيقات اليومية.

للحديث عن هذا الموضوع المثير، نتطلع لآرائكم في التعليقات! ما رأيكم في قدرة نماذج الذكاء الاصطناعي على تقديم الدعم الحقيقي؟