في عصر تتزايد فيه أهمية الذكاء الاصطناعي (AI) في مختلف القطاعات، كان من المقلق أن أتمتة المهام عبر وكالات الذكاء الاصطناعي قد تقدم مخاطر أمنية كبيرة. يكشف البحث الجديد كيف يمكن لإطار عمل إدارة ثقة الذكاء الاصطناعي (TRiSM) أن يعزز من الأمان والدقة في تطبيقات الرعاية الصحية.

يعتمد هذا البحث على تطبيق ذكاء اصطناعي خاص بتوليد التقارير الطبية، حيث تم تقييم أساليب العمل المختلفة عبر خمسة نماذج من نماذج اللغات الضخمة (LLMs)، وهي: Claude Haiku 4.5، GPT-4.1-nano، GPT-4.1-mini، GPT-5.4-mini، وGemini 2.5 Flash.

ركزت الدراسة على نوعين من التقارير، وحققت في 800 عملية توليد و500 سيناريو هجوم تشمل حقن البيانات وهجمات الشبكة. وقد أظهرت النتائج أن استخدام إطار عمل TRiSM أسهم في خفض معدلات نجاح الهجمات من 31% إلى 10% بفضل تحسين تصميم سير العمل. كما كان هناك زيادة في دقة التقارير بنسبة 14 نقطة مئوية، حيث ارتفعت من 72.5% إلى 86.5%.

تؤكد هذه النتائج على أهمية تصميم سير العمل الآمن، مع التركيز على تقليل الصلاحيات لكل وكيل لضمان مستوى أمان أعلى وتحسين دقة النتائج. بينما يتم تجاهل عوامل الأمان في كثير من الأحيان، يعيد هذا البحث تسليط الضوء على أهمية دمج الأمان ضمن استراتيجيات الذكاء الاصطناعي في البيئات الحساسة مثل الرعاية الصحية.