في عصر تتزايد فيه كمية الأبحاث العلمية بشكل يتجاوز قدرة المحكمين المؤهلين، يظهر الذكاء الاصطناعي كحل واعد. لقد أصبحت نماذج اللغات الضخمة (Large Language Models) قادرة على تلخيص المعلومات، والتحقق من الحقائق، وتحليل الأدبيات بشكل ما يمهد الطريق للتكامل في مراجعة الأقران. ولكن ما مدى موثوقية الذكاء الاصطناعي في هذا السياق؟

دراسة جديدة سلطت الضوء على التحديات التي تواجه استخدام الذكاء الاصطناعي في مراجعة الأبحاث. فقد أظهرت التجارب السابقة أن البرمجيات المدعومة بالذكاء الاصطناعي قد تتعرض لمخاطر هائلة، بما في ذلك تحريف التقييمات نتيجة لعمليات حقن غير مرئية، مما يؤدي إلى تقييمات إيجابية غير مبررة. كما أظهرت الأبحاث أن هذه الأنظمة تُظهر حساسية مفرطة للنصوص المضادة، والسلطة، وطول النص، مما يثير تساؤلات حول نزاهة التقييمات.

تتناول الدراسة الجديدة الهجمات المحتملة على دورة مراجعة الأقران، بدءًا من تدريب النماذج واسترجاع البيانات، وصولًا إلى مراجعة الدفتر، والمراجعة المتعمقة، والردود، وأنظمة الآمان. وقد استُخدمت نماذج محكمة متقدمة لقياس تأثيرات العوامل مثل الإطار المرموق، وقوة مزاعم المتقدمين، ومدى التملق في الردود، والسموم السياقية على درجات المراجعة.

تقدم هذه الدراسة أساسًا علميًا لتقييم موثوقية مراجعات الذكاء الاصطناعي، مما يقودنا إلى البحث عن حلول ملموسة لحل نقاط الفشل المحددة. إن الأسئلة التي تطرحها هذه النتائج بشأن موثوقية الحكم الذكي (AI referee) تستحق اهتمامنا، خصوصًا مع المخاطر التي قد تنتج عن قرارات البحث غير المدروسة.