تعد القدرة على كشف المفاهيم الدلالية المعقدة مثل النفي عبر الوسائط المختلفة أحد أكبر التحديات التي تواجه الأنظمة متعددة الوسائط. في هذا المقال، نقوم بتحليل هذه المشكلة كمسألة تعلم تمثيلي أساسية، حيث نقدم أدلة جديدة تشير إلى أن النفي لا يشكل فئة مفصولة بشكل خطي أو غير خطي في الفضاءات الخفية للنماذج البصرية اللغوية التقليدية (Vision-Language Models).
تظهر نتائجنا أن تمثيلات البنية المدربة مسبقاً تركز بشكل رئيسي على ميزات محددة للوسائط، مما يجعلها تفتقر إلى إشارة سليمة عن النفي يمكن تعميمها عبر السياقات المختلفة. للتغلب على هذه التحديات، نقترح بنية جديدة للانتباه العابر للوسائط، حيث نماذج العلاقات بين الوسائط بشكل واضح، مما يؤدي إلى تحسين الأداء بنسبة تصل إلى 7.03% في مؤشر F1 مقارنة بالنماذج أحادية الوسائط.
تتضح من خلال تحليلنا عدم التماثل الرئيسي؛ إذ غالباً ما يظهر نفي النص بشكل مستقل، بينما يعتمد النفي البصري بشكل كبير على السياق اللغوي. تم التحقق من هذا الاكتشاف من خلال تحليلنا الإحصائي لثلاثة آلاف ومئتين واثنين وعشرين زوجاً من مقاطع الفيديو السياسية والنصوص المعنية، والتي تم وسمها تلقائياً باستخدام نموذج Qwen2.5-VL.
من خلال دمج هذا التحليل مع تمثيلات الفيديو المعززة ذاتياً (JEPA2)، نقوم بتطوير أساليب جديدة لنمذجة النفي الزمني. توفر هذه الدراسة طرقاً ورؤى جديدة لتعلم تمثيلات قوية ومتطابقة دلالياً في الأنظمة متعددة الوسائط.
اكتشاف نفي عبر النماذج متعددة الوسائط: ثورة في تحليل التمثيلات الخفية!
يواجه النظام متعدد الوسائط تمثيل النفي كأحد أكبر التحديات. نقدم حلاً مبتكراً باستخدام بنية انتباه عابرة للوسائط لتحسين التفاعل بين النص والصورة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
