في عالم الذكاء الاصطناعي، تتعرض خوارزميات الحظ العشوائي (Stochastic Bandits) لمخاطر عديدة بفعل الهجمات الخبيثة. لم تعد هذه الهجمات تعتمد على افتراضات غير واقعية، بل تم تطوير نموذج جديد يُعرف بإدخال البيانات المزيفة (Fake Data Injection) الذي يُظهر كيفية استغلال القيود الواقعية للهجوم.

تشير الدراسة إلى أن المهاجم قادر على حقن عدد محدود من عينات التغذية الراجعة المزيفة في تاريخ الخوارزمية، مما يحاكي تفاعلات شرعية. ولقد تم تصميم استراتيجيات هجوم فعالة ضمن هذا النموذج، حيث يتم التعامل بوضوح مع كل من القيود المكانية (على قيم المكافآت) والقيود الزمنية (على متى وكيف يمكن حقن البيانات).

تكشف التحليلات النظرية أن هذه الهجمات تستطيع توجيه خوارزميات الحظ العشوائي لاختيار ذراع مستهدفة في معظم الجولات، مع تكبد تكاليف هجوم منخفضة. بالإضافة إلى ذلك، أثبتت التجارب التي أُجريت على مجموعات بيانات صناعية وعالمية حقيقية فعالية استراتيجياتنا، مما يكشف عن نقاط الضعف الحقيقية التي تواجهها خوارزميات الحظ العشوائي في ظل سيناريوهات عدوانية عملية.

في ضوء هذه الاكتشافات، من المهم مراجعة كيفية حماية أنظمة الذكاء الاصطناعي ضد هذه الهجمات المحتملة.