في خطوة غير مسبوقة، يسعى باحثون في مجال الذكاء الاصطناعي إلى تقديم مؤشر InfoOps كوسيلة نشطة ومحدثة لقياس نقاء نماذج اللغة الضخمة (Large Language Models) في مواجهة الاستغلال من قبل الأنظمة الاستبدادية عبر أنشطة ما تُعرف بعمليات المعلومات. هذه العمليات هي أنشطة منسقة ومدروسة تهدف إلى التأثير على الرأي العام ونظم المعلومات في دول أخرى، مما يشكل تهديداً مستمراً للديمقراطية المعاصرة.

أُعتمد المؤشر على أمثلة حقيقية من أكثر من 2100 عملية معلوماتية تم جمعها من خلال مراقبة مباشرة للموارد المعلوماتية المتصلة بالأنظمة الاستبدادية. ويمتاز هذا المؤشر بتحديثه الأسبوعي المتواصل من خلال موقع إلكتروني مخصص، ما يجعله مقاومًا للإشباع المعلوماتي.

يتضمن المؤشر اختبار 17 نموذجًا من 8 مزودين مختلفين عبر أربعة أساليب توجيه مختلفة. تشير النتائج إلى أن معظم النماذج تكون قابلة للاستغلال في عمليات المعلومات في بعض الأحيان، حيث تراوحت درجات السلامة، المُعرفة كنسبة الردود التي لم تعزز أو تحافظ على الادعاءات، بين 9.3% و91%. ويظهر هذا الانتشار الملحوظ بنسب تصل إلى 81.7 نقطة مئوية، دون أن يفسره حجم النموذج المستخدم.

تتباين الطرق التي تستخدمها النماذج للمشاركة في عمليات المعلومات، حيث تقوم بعض النماذج بتلفيق تفاصيل وتنتج مخرجات أكثر ضررًا من المطالب الأصلية، بينما تقلل نماذج أخرى من حجم الضار حتى عند امتثالها. تتراوح معدلات التحقق من الحقائق بين 3.2% و80.8%.

تتعلق السلامة ضد عمليات المعلومات على الأقل جزئيًا برفض النماذج إنتاج محتوى حتى للادعاءات الحميدة، مما يبرز التحدي في إيجاد توازن بين قابلية استخدام النماذج وسلامتها.

تظهر نتائج هذا البحث الإمكانية الكبيرة لعمليات المعلومات المعاصرة في الاستفادة من أدوات الذكاء الاصطناعي المتقدمة، مما يستدعي المزيد من التحليل والدراسة.