شهدت السنوات الأخيرة اعتماداً متزايداً على نماذج اللغات الضخمة (LLMs) في البيئات المؤسسية، مما أظهر مجموعة من المخاطر التشغيلية والأمنية وسوء الإدارة. مع تقدم تطبيقات الذكاء الاصطناعي التوليدي من مرحلة الاختبار إلى مرحلة الإنتاج، أصبح من الصعب توسيع نطاق تحديد الأضرار اليدوي وتخفيفها.

على الرغم من وجود العديد من الأدوات الداعمة لتقييم النماذج، والاختبارات المعادية، وضمان الأمان أثناء التشغيل، ودقة الرصد، لا تزال بيئة الأدوات متشظية. غالباً ما تُصمم الأدوات لمهام هندسية محددة وتُوصف بمصطلحات تقنية لا تتماشى مع إطارات الحوكمة أو تصنيفات المخاطر، مما يؤدي إلى صعوبة تحديد الأدوات المناسبة لمواجهة المخاطر وتحديد الثغرات الحرجة.

يقترح البحث بروتوكولاً هيكلياً لأتمتة تخفيف مخاطر الذكاء الاصطناعي من خلال تحليل قائم على التصنيف لأدوات تقييم وأمن نماذج اللغات الضخمة مفتوحة المصدر. تم رسم قدرات 21 أداة مفتوحة المصدر بارزة إلى 32 تحت فئة من تصنيف MIT الموسع لمخاطر الذكاء الاصطناعي والتخفيف والاستجابة. يساهم خط أنابيب مدعوم بشبكة الذكاء الاصطناعي في تحليل الشيفرة المصدرية والوثائق لاستخراج القدرات لكل فئة.

أظهرت التقييمات موثوقية متوسطة (Fleiss' Kappa = 0.509) بين ثلاثة مراجعين مستقلين. يكشف التحليل عن مشهد متوازن بشدة حيث تتركز الأدوات حول التحكمات التقنية والتشغيلية، بينما تظل الجوانب المتعلقة بالحكومة والقوانين والتنظيمات والمالية والسوق غير معالجة إلى حد كبير. هذه النتائج تدفع نحو اقتراح بنية هيكلية تخفيفية للمخاطر تجمع بين التحكمات المعتمدة على الأدوات والعمليات التنظيمية.

المسار التطبيقي الذي حقق درجة F1 قدرها 75.5% بعد التصويت الأعمى يقدم خريطة عملية تربط بين فئات مخاطر الذكاء الاصطناعي المؤسسي وقدرات التخفيف المتاحة مفتوحة المصدر، ويحدد أين لا يزال هناك ضرورة للإشراف البشري، ويعرض إطار عمل مدفوع بالتصنيف قابل للتطبيق على الحلول مفتوحة المصدر والتجارية.