في عالم يتسارع فيه تقدم العلوم، تبدأ أدوات الذكاء الاصطناعي في لعب دور محوري، لكن مع هذه القوة تأتي مسؤولية أكبر. قدم الباحثون في الآونة الأخيرة SciHazard، معيارًا جديدًا لتقييم المخاطر العلمية، يهدف إلى معالجة التحديات الحالية المتعلقة بالمعرفة العلمية الخطرة.

إن نماذج اللغات الضخمة (Large Language Models - LLMs) أصبحت ركيزة أساسية تسهم في دعم مساعي العلمية، لكن يمكن أن تُحول هذه المعرفة الخطرة إلى إرشادات قابلة للاستخدام إن لم يتم التعامل معها بحذر. بدلاً من الاعتماد على استفسارات عشوائية وغير مرتبطة بالواقع، تأتي SciHazard لتقدم تقييمًا متوازنًا يعتمد على بيانات واقعية مرتبطة بالكيانات المنظمة والسيناريوهات الموثقة.

يتضمن SciHazard 2400 سؤالًا حول المخاطر و600 سؤالًا حول السلامة عبر 12 مجالًا علميًا، مما يجعله أداة شاملة تساعد في فهم المخاطر المرتبطة بمختلف التطبيقات العلمية.

من خلال DeHarm-Score، تتمكن SciHazard من تقويم مخاطر الاستجابات عبر مجموعة من الإجراءات المفصلة، التي تشمل تقييم شدة المخاطر وسلوك الرفض. علاوةً على ذلك، يتعمق النموذج في تحليلات الاستجابة، مُقسمًا الضرر إلى مستوى تنفيذ، يتم قياسه عبر قوائم فحص دينامية، والمخاطر الجديدة التي يتم تقويمها عن طريق استخراج المطالبات والتأكد من عدم وجود حواجز في التعبير.

وتظهر دراسة التحقق من الخبراء أن DeHarm-Score يعزز من توافق التقييمات مع الملاحظات الخبيرة بنسبة 90.17% مقارنةً بأقوى المعايير.

وعزّز الباحثون النتائج بتقييم 31 نموذجًا متقدمًا من LLMs وعوامل البحث العميقة، حيث أظهرت النتائج أن العوامل العميقة حققت زيادة متوسطة قدرها 32.3% في DeHarm-Score مقارنةً بالنماذج التقليدية، مما يكشف عن نقاط ضعف في الدفاعات الأمنية الحالية.

للاستزادة، يمكنك الوصول إلى الكود والبيانات عبر الرابط المتاح هنا.

ما رأيكم في هذا التطور الثوري؟ هل تعتقدون أنّ مثل هذه الأدوات ستحدث تغييرات مهمة في مجال الأبحاث العلمية؟ شاركونا آراءكم في التعليقات!