في عالم يزداد فيه الاعتماد على الذكاء الاصطناعي (AI) في الأبحاث العلمية، يبرز تساؤل مثير حول مدى إمكانية استغلال هذا التطور التكنولوجي للتلاعب بأبحاث العلوم. دراسة جديدة نشرت في arXiv تكشف عن تقنية جديدة تُعرف بتسمية "تسميم البيانات غير المباشر"، حيث يمكن للهجمات الخبيثة أن تفسد مجموعات البيانات المفتوحة وتحول الباحثين الشرفاء إلى موزعين غير مدفوعي الأجر للغش على نطاق واسع.

فما هي تفاصيل هذه الهجمات؟ الباحثون قاموا بإجراء تجاربهم عبر خمسة مواضيع هامة اجتماعياً، وأسفرت النتائج عن النجاح في 49.56% من المحاولات في إحداث التسميم، بينما لم تتجاوز نسبة اكتشاف التسميم الـ6.0%. هذه الهجمات لا تحتاج إلى كلمات معينة أو إمكانية وصول مباشرة، بل تعتمد فقط على النظام البيئي للبيانات المفتوحة والبيانات الوصفية المضللة.

للحد من هذه المخاطر، اقترحت الدراسة طريقة جديدة تتمثل في "شخصيات الباحثين" وتدقيق مصدر البيانات عبر خمس خطوات محددة، ورغم أن هذه الشخصية لم تمنع 16.67% من المحاولات، فإن التدقيق في مصدر البيانات نجح في خفض معدل نجاح الهجمات إلى صفر. هل نحن أمام خطر جديد يهدد النزاهة العلمية؟ كيف يمكننا حماية الأبحاث من هذا التهديد المتزايد بتكنولوجيا الذكاء الاصطناعي؟

شارك برأيك في التعليقات!