في عصر يتسم بتقدم التكنولوجيا وإبداع الذكاء الاصطناعي، تزداد أهمية سلامة هذه الأنظمة بشكل ملحوظ. حيث تسعى الأبحاث في هذا المجال إلى تفادي الأضرار الناتجة عن الاستخدام السئ أو الخاطئ لتكنولوجيا الذكاء الاصطناعي، خاصة أدوات الذكاء الاصطناعي التوليدي (Generative AI) التي تستطيع إنتاج محتوى واقعي وعالي الجودة باستخدام أوامر نصية.

يمكن أن تتضمن هذه الأدوات نماذج لغوية ضخمة (Large Language Models) ونماذج تحويل النص إلى صورة (Text-to-Image diffusion models). مع اقتراب أداء نماذج الذكاء الاصطناعي التوليدي الرائدة من نقطة التشبع، يصبح تطوير آليات سلامة موثوقة من العوامل الحاسمة لتوفير المسؤولية والاستدامة في هذا القطاع.

يقدم البحث مفهوم السلامة الحاسوبية كإطار رياضي يسمح بالتقييم الكمي لتحديات السلامة في الذكاء الاصطناعي التوليدي من منظور نظرية معالجة الإشارات (Signal Processing Theory). يستعرض البحث نوعين بارزين من تحديات السلامة الحاسوبية في الذكاء الاصطناعي التوليدي، والتي يمكن صياغتها كمشاكل اختبار فرضيات.

فيما يتعلق بسلامة المدخلات للنموذج، توضح الدراسة كيفية استخدام تحليل الحساسية (Sensitivity Analysis) وتحليل مشهد الخسارة (Loss Landscape Analysis) لاكتشاف الأوامر الخبيثة التي تحمل محاولات خرق الحماية (Jailbreak). أما بالنسبة لسلامة المخرجات، فتستعرض الدراسة كيف يمكن استخدام معالجة الإشارات الإحصائية (Statistical Signal Processing) للكشف عن المحتوى المولد بواسطة الذكاء الاصطناعي.

في الختام، يناقش البحث التحديات البحثية المفتوحة، والفرص المتاحة، والدور الأساسي الذي تلعبه معالجة الإشارات في تعزيز السلامة الحاسوبية للذكاء الاصطناعي.