في عالم الذكاء الاصطناعي، تظل [نماذج اللغة](/tag/[نماذج](/tag/نماذج)-[اللغة](/tag/اللغة)) متعددة الحواس ([MLLMs](/tag/mllms)) محور اهتمام الباحثين، خاصةً عندما يتعلق الأمر بفهم الظواهر المعقدة مثل [الهلوسة](/tag/الهلوسة) الناتجة عن [تعارض](/tag/تعارض) [المعلومات](/tag/المعلومات). في [دراسة جديدة](/tag/[دراسة](/tag/دراسة)-جديدة) نشرت على arXiv، تم تسليط الضوء على كيفية تأثير [رؤوس الانتباه](/tag/رؤوس-[الانتباه](/tag/الانتباه)) ([Attention](/tag/attention) Heads) في إنتاج هذه الهلوسات.
تحدث [الهلوسة](/tag/الهلوسة) الناتجة عن [تعارض](/tag/تعارض) الحواس عندما تمنح نماذجنا الأولوية لمعلومات نصية خاطئة بينما تتجاهل [الأدلة](/tag/الأدلة) المرئية المتناقضة. لفهم أسباب [فشل](/tag/فشل) [الأدلة](/tag/الأدلة) المرئية في التأثير أثناء [توليد](/tag/توليد) المحتوى، قام الباحثون بإجراء [تحليل سببي](/tag/[تحليل](/tag/تحليل)-سببي) على مستوى الرؤوس [عبر](/tag/عبر) خمسة [نماذج](/tag/نماذج) متميزة من [MLLMs](/tag/mllms).
من خلال النتائج، تم [التعرف](/tag/التعرف) على نوعين من [رؤوس الانتباه](/tag/رؤوس-[الانتباه](/tag/الانتباه)): رؤوس تحفز الهلوسات وأخرى تقاومها. لفتت الأنظار [اكتشاف](/tag/اكتشاف) عدم توازن واضح، وهو أن التأثيرات المحفزة كانت موزعة على نطاق واسع وتحمل وزنًا أكبر، بينما كانت التأثيرات المقاومة مركزة في [عدد](/tag/عدد) قليل من الرؤوس عالية الأهمية.
أكدت [التجارب](/tag/التجارب) الإضافية أن هذه [المجموعات](/tag/المجموعات) تمارس [تأثيرات](/tag/تأثيرات) متعارضة خلال عملية التوليد، مما يخلق هيكل [توجيه](/tag/توجيه) غير متوازن يميل إلى إنتاج [محتوى](/tag/محتوى) قائم على فرضيات خاطئة.
استجابةً لهذه التحديات، اقترح الباحثون التدخل المعروف بـ [MACI](/tag/maci) (Modality-conflict-Aware Causal Intervention)، والذي يقوم بقمع [رؤوس الانتباه](/tag/رؤوس-[الانتباه](/tag/الانتباه)) المحفزة للهلوسات فقط عند [اكتشاف](/tag/اكتشاف) [تعارض](/tag/تعارض). أثبت [MACI](/tag/maci) فعاليته [عبر](/tag/عبر) خمسة [نماذج](/tag/نماذج) من MLLMs، محققًا أكبر تقليص في الهلوسات مقارنةً بخيارات أخرى، مع الحفاظ على [دقة](/tag/دقة) ملحوظة.
تقدم هذه النتائج التفصيلية هدفًا واعدًا لتحسين تعامل [MLLMs](/tag/mllms) مع [المعلومات](/tag/المعلومات) المعقدة، مما يفتح الأفق لمزيد من [الأبحاث](/tag/الأبحاث) في هذا المجال المتطور.
ما رأيكم في هذه [الإنجازات](/tag/الإنجازات) الجديدة؟ كيف يمكن أن تؤثر على [مستقبل الذكاء الاصطناعي](/tag/[مستقبل](/tag/مستقبل)-الذكاء-الاصطناعي) وتطبيقاته في الحياة اليومية؟ شاركونا آرائكم في [التعليقات](/tag/التعليقات).
كيف تؤثر رؤوس الانتباه في توازن الهلوسة الناتجة عن تعارض الحواس؟
تعد دراسة جديدة حول نماذج اللغة متعددة الحواس (MLLMs) خطوة مهمة لفهم كيفية تأثير رؤوس الانتباه في إنتاج الهلوسات الناتجة عن تعارض المعلومات. تقدم الدراسة تدخلًا مبتكرًا باسم MACI لتحقيق توازن أفضل أثناء توليد المحتوى.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
