في عالم الذكاء الاصطناعي (Artificial Intelligence)، يسعى الباحثون باستمرار لتحسين أنظمة الاستنتاج (Inference Systems). ومع تزايد اعتمادية هذه الأنظمة في مجالات عدة، تم تقديم نموذج يستفيد من مسارات سريعة (Fast Path) وبطيئة (Slow Path) لتحسين دقة الاستنتاج وتقليل زمن الاستجابة.
ومع ذلك، أظهرت دراسة جديدة وجود باب جديد للهجمات: الأعباء الموجهة (Shaped Workload Attacks) التي تستهدف المسار البطيء. عند استغلال هذه الثغرات، يمكن للهجمات أن تدفع توقّعات المستخدمين البريئين لتتجاوز المواعيد النهائية، مما يؤدي إلى ما يعرف بانهيار الدقة (Accuracy Collapse).
في تجربة معقدة تم إجراءها على أنظمة تتبع متعددة الأجسام في السيارات الذاتية القيادة، أظهرت النتائج أن هجمات من نوع "Yo-Yo bursts" يمكن أن تزيد من زمن الاستجابة بنسبة مهولة، حيث ارتفع زمن الاستجابة من 92 مللي ثانية إلى ثانيتين. وبالإضافة إلى ذلك، انخفضت جودة تتبع الكائنات بمعدل 7 نقاط HOTA.
كما تم ملاحظة أن تأثير الانهيار في الدقة قد يختلف بشدة حسب فترات الفيديو المستهدفة، حيث فقدت بعض الفئات النادرة، مثل إشارات التوقف، حوالي نصف دقتها في التوقعات بعد الهجوم.
تسلط هذه النتائج الضوء على خطر الأنظمة الحالية وتؤكد على الحاجة الملحة للبحث في أمان استراتيجيات توجيه، دمج، وجدولة الموارد في هذه الأنماط الناشئة من الأنظمة الاستنتاجية.
الكشف عن انهيار دقة الاستنتاج: التهديدات الجديدة في أنظمة الاستنتاج الموزعة!
يستعرض البحث الجديد نوعاً مثيراً من الهجمات التي تؤثر سلبا على دقة الأنظمة الذكية. اختبارات أظهرت كيف يمكن للهجمات المدروسة أن تضعف فعالية الاستنتاجات الأساسية، ما يثير تساؤلات حول الأمان في استخدام الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
