في عالم الذكاء الاصطناعي، تتزايد المخاوف بشأن تلوث نماذج اللغات الضخمة (LLM) نتيجة لتدخل البيانات الضارة. وفقًا لدراسة جديدة نشرت في أرشيف arXiv، يحدث تلوث LLM عندما تتداخل الردود الاصطناعية مع البيانات المخصصة لفهم سلوك الإنسان. ولقد كانت تكلفة النشر المرتفعة سببًا في تقليل المخاطر التي تفرضها الوكلاء الذين يقومون بالاستطلاعات بشكل مستقل.

ومع ذلك، تفتح النماذج ذات الأوزان المفتوحة (open-weight models) تلك التي تعمل بإطارات مفتوحة المصدر (open-source agentic frameworks) الأبواب لمخاطر جديدة. قام الباحثون بمقارنة أداء وكفاءة تسعة تكوينات مختلفة من الوكلاء، بدءًا من المتغيرات المفتوحة بالكامل إلى النماذج التجارية المقفلة.

استخدم كل وكيل لاستكمال استطلاع شمل أنواع ردود متعددة، مما سمح بإجراء فحوصات كشف متنوعة. وقد أظهرت النتائج أن الوكلاء المفتوحين عملوا محليًا دون رسوم استخدام، وقد أداؤهم كان تنافسيًا مقارنة بالنماذج التجارية.

بينما فشلت الوكلاء التجارية والمفتوحة في اجتياز مجموعات مختلفة من الفحوصات، لوحظ أن الردود النصية المفتوحة كانت الأكثر قدرة على التمييز بين الوكلاء والإنسان. هذا يسلط الضوء على الوكلاء المفتوحين كخطر واضح على تلوث LLM ويدعم استراتيجيات الكشف متعدد الطبقات، مع التأكيد على أهمية تحليل النص المفتوح.

تستدعي هذه الدراسة الانتباه إلى ضرورة تطوير آليات فعالة للكشف عن تأثير الوكلاء على بيانات نماذج الذكاء الاصطناعي. تشكل هذه النتائج أسسًا جديدة لفهم كيفية معالجة الأخطار المحتملة على جودة البيانات، مما يمهد الطريق لدراسات مستقبلية في هذا المجال.