في عالم الذكاء الاصطناعي، أصبحت نماذج اللغات الضخمة (LLM) أدواتًا قوية تتفاعل مع أنظمة حقيقية وتستخدم أدوات خارجية. لكن، تتضمن هذه الاستخدامات مخاطر متعددة، حيث يمكن أن تؤدي الأفعال غير الآمنة إلى عواقب لا رجعة فيها على البيانات والمعلومات. جديد اليوم يأتي من البحث المميز الذي طرحه فريق من العلماء تحت شعار "DreamGuard".

تسعى DreamGuard إلى معالجة أوجه القصور في الحلول الحالية التي تعمل على رصد المخاطر بشكل تفاعلي، من خلال تقييم سلامة الفعل الحالي فقط. إذ، غالبًا ما تفتقر هذه الأنظمة إلى الفهم الواضح لكيفية تطور المخاطر بمرور الوقت، مما يؤدي إلى غفلة حاسمة تجاه المخاطر بعيدة المدى.

لذا، ابتكر الباحثون نموذجًا عالميًا واعيًا للمخاطر، يعمل بشكل استباقي للحفاظ على سلامة الأنظمة. إذ يحافظ هذا النموذج على حالة كامنة مدمجة عبر المسار المتوقع ويقوم بالتنبؤ بالحالات المستقبلية. من خلال هذه البيانات، تتمكن DreamGuard من وضع قرارات تدخلية قبل تنفيذ أي إجراء، منسجمةً مع قياسات متعددة للسلامة والمخاطر.

تجارب مختلفة شملت أربعة معايير وأخرى على الإنترنت أظهرت أن DreamGuard تتجاوز بشكل كبير الدفاعات التفاعلية والاستباقية الأخرى، وتحقق أفضل توازن بين السلامة والفائدة. بالإضافة إلى ذلك، تحافظ على معدل زمن استجابة يبلغ 25 مللي ثانية لكل اتصال، مما يعد مثالًا يحتذى به في فعالية الأداء والسلامة.