في عالم يتزايد فيه الاعتماد على أنظمة الذكاء الاصطناعي، تظهر مخاطر جديدة تتعلق بدقة المعلومات، خاصة في أنظمة الإجابة عن الأسئلة بالفيديو. غالبًا ما تعطي هذه الأنظمة ادعاءات مفاجئة تترافق مع طوابع زمنية تدل على المصداقية، رغم أنها قد تكون زائفة أو غير مدعومة بالأدلة الكافية.

في هذا السياق، عُرضت مؤخرًا دراسة مثيرة في منصة arXiv، حيث قدم الباحثون أسلوبًا جديدًا للتأكد من صحة المعلومات المقدمة من قبل أنظمة الإجابة عن الأسئلة في الفيديو. يقترح الباحثون استخدام نموذج لغوي معزز (Retrieval-Augmented Language Model) لصياغة إجابات مع توثيقها باستخدام المراجع الزمنية. لكن المفاجأة كانت في تراجع دقة النموذج عند الاعتماد فقط على تقنيات التحقق التقليدية.

في تجاربهم، اكتشفوا أن الاستجواب المباشر للنموذج البصري حول ما إذا كان الإطار يدعم الادعاء كان غير مجدٍ تمامًا، حيث كان معدل الكشف 0% على 40 ادعاءً. لكن عند استخدام نماذج ذكية صغيرة تستند إلى تحليل اللغة الطبيعية، بلغ معدل الكشف 79% من المعلومات المضللة عند التعامل مع أسئلة معضلة قائمة على فرضيات كاذبة.

تعتبر هذه النتائج خطوة هامة نحو تعزيز موثوقية أنظمة الذكاء الاصطناعي في تقديم معلومات دقيقة وموثوقة للمستخدمين. تسعى هذه الدراسة، إلى جانب تقديم أكواد العمل على GitHub، إلى دعم المطورين والممارسين في هذا المجال لتحقيق قفزات نوعية في دقة المعلومات المعروضة.

هل تعتقد أن هذه الأنظمة ستستطيع في النهاية توفير معلومات موثوقة بنسبة 100%؟ شاركونا آراءكم في التعليقات!