تشهد أنظمة الذكاء الاصطناعي الحديثة تطورًا سريعًا يقلل الفجوة بين نمو القدرات ونشرها. في الماضي، كانت تقنيات عالية الخطورة تعاني من تحديات مثل الكثافة الرأسمالية، وقيود البنية التحتية، والجمود التنظيمي، فضلاً عن سلاسل التوريد المتخصصة. لكن القدرات الجديدة في الذكاء الاصطناعي يمكن نسخها، واستدعاؤها، وتضمينها في سير العمل، وتوسيعها عبر المؤسسات بتكاليف هامشية منخفضة.

تستند هذه الورقة إلى حجة رئيسية مفادها أن انخفاض احتكاك النشر يغير مشكلة السلامة جذريًا. السلامة لم تعد تقتصر على ضمان دقة المخرجات أو توافق التفضيلات فحسب، بل تشمل أيضًا التحكم في السيطرة غير القابلة للعكس في ظل زيادة كثافة القرارات.

تطرح الورقة مفهوم كثافة الطاقة القرار (Decision-Energy Density)، والذي يشير إلى قدرة نقطة معينة على توليد وتقييم واختيار وتنفيذ قرارات ذات عواقب. وتحدد الورقة ثلاث حدود سيادية تعرف ما إذا كانت أنظمة الذكاء الاصطناعي ستظل مكبرًا ضمن نظام يحكمه الإنسان، أو ستتحول فعليًا إلى مركز تحكم. تتمثل هذه الحدود في:
1. سلطة اتخاذ القرارات غير القابلة للعكس.
2. سلطة تعبئة الموارد المادية.
3. سلطة التوسع الذاتي.

يوضح النموذج كيف أن ضغط الكفاءة، واعتماد المسار، وتعزيز الحجم، وضعف الحدود يمكن أن يركزان الطاقة القرار في أكثر النقاط كفاءة، مما قد يؤدي إلى تفكيك المسؤولية وزيادة احتمالية فقدان النظام على مستوى لا يمكن الرجوع عنه، حتى عندما تظل معدلات الأخطاء المحلية منخفضة.

ولعل أكثر النتائج أهمية هي نظرية استقرار الحدود، التي تظهر أن السلامة لا تتطلب إثبات أن الأنظمة المتقدمة صحيحة دائمًا. بدلاً من ذلك، تحتاج إلى تصاميم مؤسسية وتقنية تمنع إطلاق السلطة غير القابلة للعكس من قِبل نقطة واحدة ذات كفاءة عالية.

تعيد الورقة صياغة مفهوم سلامة الذكاء الاصطناعي على أنه تحكم متعدد الطبقات، وتفويض، وحدود يمكن مراجعتها خارجيًا، مما يربط بين التوافق، وهندسة الأمان، والاقتصاد التنظيمي، وتصميم المؤسسات.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.