في عالم الذكاء الاصطناعي الفيزيائي (Physical AI) الذي ينمو بوتيرة متزايدة، يتم تحويل الملاحظات المتعددة النمط (multimodal observations) وأوامر اللغة (language instructions) إلى إجراءات محسوبة تنعكس على العالم الحقيقي. تشمل هذه الأنظمة نماذج أساسية للروبوتات (robotics foundation models) ونماذج الرؤية-اللغة-الإجراء (vision-language-action models) التي تتحكم في اتخاذ القرارات المتعلقة بالحركة، مثل مركبات النقل والروبوتات والطائرات المسيّرة.

تترافق هذه التنمية مع مخاطر أمنية لم تتطرق لها طرق تقييم الذكاء الاصطناعي التقليدية أو سلامة الروبوتات في حد ذاتها، حيث قد يقوم نموذج غير شفاف (black-box model) بإصدار إجراء ذي عواقب مادية بينما يبدو موثوقًا وذو احتمال منطقي. يمكن أن تظهر الفشلات بشكل صامت بسبب انحراف المستشعرات (sensor drift)، أو الإخفاء (occlusion)، أو خطأ تقدير الحالة (state-estimation error)، مما يؤدي إلى انتهاك غير محسوس للمكونات التشغيلية.

تتعدد المجالات التقنية المرتبطة بهذا الموضوع، بدءًا من النماذج الأساسية (embodied foundation models)، ونماذج العوالم (world models)، وصولًا إلى تقييم معايير السلامة (safety benchmarks). وعلى الرغم من التطور الملحوظ في آليات الأمان، إلا أنه غاب عن معظم هذه الدراسات وجود حدود تفويض روتينية واضحة بين نماذج الذكاء الاصطناعي الفيزيائي والتطبيق المادي له.

يقدم هذا المقال تشخيصًا متكاملًا للتحديات المرتبطة بالفشل الصامت في الإجراءات الفيزيائية، ويضع إطار عمل واضح لفهم آليات الحماية المطلوبة والمقارنة فيما بينها كآليات لضمان سلامة الذكاء الاصطناعي. إن فهم هذه الديناميات يعد ضرورة ملحة في ظل الانفتاح المتزايد لهذه الأنظمة على العالم الخارجي.