تشهد نماذج الأساس المفتوحة (Open-Weight Foundation Models) ازدهاراً ملحوظاً مما يجعل الحاجة إلى استراتيجيات فعالة للحكومة أمراً ملحاً. في ورقة تم نشرها على arXiv، تم تحليل 500 بطاقة نموذج مستضافة على منصة Hugging Face، وأظهرت النتائج أنه على الرغم من استخدام بطاقات النماذج كأدوات لتعزيز الشفافية، إلا أنها غالباً ما تفشل في توضيح التحديات الأمنية الفريدة التي تواجهها نماذج الأساس المفتوحة.
تشدد الورقة على ضرورة اتباع نهج متعدد الطبقات لضمان الحوكمة الفعالة لهذه النماذج، وتضمنت ثلاث مكونات أساسية هي: بطاقات النماذج، سياسات الاستخدام المقبول (Acceptable Use Policies - AUPs)، والتراخيص. كما أظهرت التحليلات وجود فجوات في الأمان، بما في ذلك تراث النماذج (Model Heritage) وسلوكيات النماذج الملاحظة تجريبياً.
علاوة على ذلك، تم الإشارة إلى أن التراخيص المفتوحة المصدر (Open Source Licenses - OSLs) غير مناسبة لهذه النماذج وقد تضعف من إمكانية تطبيق سياسات الاستخدام المقبول. استناداً إلى هذه الملاحظات، قدمت الورقة توجيهات حول كيفية تطوير بطاقات النماذج وسياسات الاستخدام والتراخيص بشكل متكامل لتحسين إطار الحوكمة وضمان التوافق بين الجوانب المعلوماتية والمعيارية والقانونية.
يستدعي المجتمع الأكاديمي والصناعي الآن العمل سوياً لتناول هذه التحديات من خلال أسس أكثر فعالية ونماذج حوكمة تضمن الأمان المنشود.
إعادة تقييم حوكمة نماذج الأساس المفتوحة: ضرورة تطوير بطاقات النماذج!
يدعو مجتمع الذكاء الاصطناعي إلى إعادة تقييم استراتيجيات حوكمة نماذج الأساس المفتوحة بعد أن أثبتت بطاقات النماذج الحالية عدم كفايتها. يكشف البحث عن فجوات في الأمان تتطلب نهجاً متعدد الطبقات لتعزيز فعالية الحوكمة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
