تقييم رفض التفاعل الآمن في بيئات الأحياء ذات الاستخدام المزدوج: كيف يمكن للذكاء الاصطناعي الحفاظ على الأمان البيولوجي؟

مع تزايد دمج الوكلاء الذكيين (AI agents) في مجالات العلوم الحياتية، تظهر تحديات جديدة تتعلق بالإساءة المحتملة لهذه التقنيات.

قدم الباحثون مؤخراً نموذجًا جديدًا يُعرف باسم BioSecBench-Refusal، والذي يهدف إلى تحديد المخاطر وسلوكيات الرفض في مهام الأبحاث البيولوجية. يتضمن هذا النموذج مزج 61 مهمة روتينية تمتاز بالشرعية مع 46 مهمة من فريق الاحمرار (Red-Team) التي تمثل سيناريوهات خيالية تشبه الأبحاث الواقعية ولكن مع وجود مخاطر للأمان البيولوجي مخفية.

خلال تقييمات تشمل 16 إعداد نموذج، تراوحت معدلات الرفض بين 7% و74% في المهام الروتينية، بينما كانت بين 1% و62% في مهام فريق الاحمرار. وقد أظهرت النتائج أن بعض الإعدادات كانت ترفض الأعمال الروتينية المشروعة بمعدلات مشابهة أو أعلى من تلك التي كانت تتعلق بالمخاطر المخفية.

أكثر الأسباب التي أدت إلى الرفض كانت تصفية واجهات برمجة التطبيقات (API filters) التي تم تطبيقها قبل اتخاذ القرارات. ومع ذلك، أظهرت النماذج التي كانت لديها مساحة للتفكير إمكانية أكبر في التعرف على التهديدات الحقيقية.

من خلال تقديم نموذج BioSecBench-Refusal، يوفر الباحثون أداة قيمة لمطوري النماذج لضبط القدرة والاعتدال في تطوير الأبحاث البيولوجية المتقدمة باستخدام الذكاء الاصطناعي.