تتسارع وتيرة الاعتماد على نماذج اللغة الكبيرة (LLMs) في إعداد مستندات تحليل السلامة، مثل المخاطر والإجراءات غير الآمنة. ومع ذلك، توجد فجوة ملحوظة في الأدبيات الحديثة: تتمركز معظم الدراسات حول الأنظمة بينما يتم التغافل عن الأداة نفسها التي تقوم بالتحليل، وهي أداة ذات ارتباط وثيق بالسلامة يمكن أن تطرح معايير خاطئة وتصدر قيوداً غير قابلة للتحقق.

تتطرق الدراسة إلى سؤال محوري تركه المجال: من يحلل المحلل؟ ومن هنا، وُلد مفهوم أداة تحليل المخاطر الجديدة المسماة "Constitutional Meta-STPA"، التي تستخدم نموذجاً متكاملاً لتحليل الأداة نفسها. تقوم هذه الأداة بإجراء تحليل يشبه عملية ``meta-STPA`` للأدوات المرتبطة بالذكاء الاصطناعي، مما يؤدي إلى صياغة دستور منبثق عن سلسلة من الخسائر والمخاطر والإجراءات غير الآمنة.

وكشفت الدراسة عن 21 مبدأً للأدوات و8 مبادئ للسلامة العامة، متعلقة بنقاط منع التنفيذ القابلة للقياس. من المثير للاهتمام أن تمكّنت أداة تحليل الحدود الجديدة من استنتاج 18 من أصل 21 مبدأً أساسياً من تصورها، بينما مجموعة أضعف استنتجت 12 من أصل 21 و3 من أصل 8، مما يدل على أن العائق ناتج عن حدود النموذج وليس عن قيود الدستور.

هذا البحث يمثل خطوة مثيرة نحو تعزيز الأمان والموثوقية في أنظمة الذكاء الاصطناعي عبر مساءلة الأدوات المستخدمة، مما يفتح أبواباً جديدة في مجال أمن نظم الذكاء الاصطناعي.