في عصر تتم فيه دمج نماذج اللغات الضخمة (LLM) ضمن البنى التحتية الحيوية وعمليات الأعمال بشكل غير مسبوق، نجد أن الأطر المستخدمة في حياتها لا تأخذ بعين الاعتبار متطلبات الأمان بالشكل المطلوب. فقد صُممت هذه الأطر لتحقيق كفاءة تشغيلية، مما جعل الأنشطة الحيوية المرتبطة بالأمان، مثل التحقق من مصدر البيانات وتوقيع الآثار والسيطرة على الأذونات، تُعتبر ضمنيًا أو تُفترض أنها تحظى بالعناية اللازمة.

تتناول ورقتنا البحثية هذا النقص من خلال تقديم نموذج دورة حياة يوفر تحليلاً أكثر أمانًا عبر تنظيمه حول حدود الأمان بدلاً من تحسين إجراءات العمل. النماذج المقترحة تضم 32 مرحلة موزعة على أربع طبقات أساسية تشمل: البيانات، النموذج، التوزيع، والتطبيق. وهي مدعومة أيضًا باستراتيجية LLMOps التي تتكون من 12 مرحلة وركيزة تنظيمية تتضمن 9 فئات.

تتضمن هذه الورقة 13 مرحلة جديدة تُعرض كوحدات منفصلة بسبب وجود قضايا أمان مميزة لا تتضح ضمن الأطر الحالية. تُظهر خريطة الحكامة التي تم تطويرها بالاعتماد على NIST AI RMF، EU AI Act، وISO/IEC 42001 خاصية هيكلية للتنظيمات الحالية: حيث تتركز الأدلة التنظيمية حول المراحل التي تواجه النشر، في حين أن القرارات الأهم، مثل اختيار البيانات واستراتيجية التوافق والقيود على القدرات، تُتخذ في مراحل التطوير حيث تكون الرؤية التنظيمية أقل.

هذا النموذج سيساعد في توجيه تطوير نماذج اللغات الضخمة بطريقة تعزز الأمان وتضمن توافقها مع المتطلبات التنظيمية المتزايدة في عالمنا الرقمي اليوم. ماذا تعتقد؟ هل تتوقع أن هذا النموذج سيساهم في تطوير نماذج أكثر أمانًا؟ شاركونا آراءكم في التعليقات!