في عصر الذكاء الاصطناعي، تحتل نماذج اللغات الضخمة (Large Language Models - LLMs) مركز الصدارة في تطوير الأنظمة الذكية التي تعتمد على تفاعل المستخدم. ومع الابتكارات المتواصلة، تم الكشف عن مبدأ جديد يتعلق بكيفية توزيع السلطة بين قياسات الحساسات ومطالب المستخدمين. يبدو أن هذه النماذج تعاني من ظاهرة تسمى "الانقلاب السلطوي" (Authority Inversion) حيث تصبح ادعاءات المستخدمين أكثر تأثيراً من البيانات الحسية، مما يطرح تساؤلات هامة حول موثوقية هذه الأنظمة في التطبيقات الحساسة.
في إطار هذا البحث، توصل العلماء إلى أن النماذج التعليمية لا تعطي وزنًا كافيًا للبيانات الرقمية الواردة من الحساسات عند اتخاذ القرارات، مما قد يؤدي إلى اتخاذ قرارات غير صحيحة بشكل خطير. ولتعزيز موثوقية الأنظمة الذكية، قام الباحثون بتطوير إطار هندسي جديد يركز على تكامل السياق، وتقديم مقاييس تدقيق قابلة للحساب مثل نسبة تكامل السياق (Context Integration Ratio - CIR) ومؤشر توافق السلطة (Authority Alignment Index - AAI).
كشفت التجارب التي أجريت على أربعة نماذج مختلفة (بقدرات تتراوح بين 4 مليار إلى 35 مليار معلمة) عبر 576 حالة تضارب، عن انعدام في ثقة النماذج بالقياسات الحسية في المهام الرقمية.
من المثير للاهتمام أن طريقة "خيار السلطة الهندسية" (Geometric Authority Calibration - GAC) حسنت دقة التعرف على الأنشطة البشرية من 0% إلى ما بين 21.9% و27.5%، متفوقةً على النماذج التقليدية.
تجدر الإشارة إلى أن توزيع السلطة في الأنظمة المدارة بواسطة نماذج اللغات الضخمة يجب أن يتم تدقيقه وتكوين إعدادات تطبيقية بدلاً من تركه ضمنيًا، لضمان تقديم قرارات موثوقة في جميع المجالات.
مفاجأة جديدة في عالم الذكاء الاصطناعي: حينما تتفوق أصوات المستخدمين على قياسات الحساسات
تمكن الباحثون من كشف آلية تحكم نماذج اللغات الضخمة (LLMs) في اتخاذ القرارات، حيث تتفوق مطالب المستخدمين على بيانات الحساسات. نتائج الدراسة تدق ناقوس الخطر حول موثوقية هذه الأنظمة في الحالات الحرجة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
