في خطوة مثيرة ومبتكرة في مجال الذكاء الاصطناعي، تم الكشف عن مجموعة بيانات شاملة جديدة تحت اسم PHANTOM، وهي مجموعة بيانات مفتوحة المصدر تضم 47,524 هجوماً عارضاً تم إنشاؤها خصيصاً لنماذج الرؤية واللغة (Vision-Language Models - VLMs). تهدف هذه المجموعة إلى تعزيز إمكانية الوصول إلى بيانات الهجوم العارض بحيث يمكن للباحثين والممارسين استخدامها لدراسة صمود النماذج وكفاءتها بشكل أفضل.

تم تصميم هذه المجموعة لتكون متنوعة وتمثل مجموعة واسعة من نوايا الهجمات الضارة، حيث تغطي 10 فئات رئيسية و 55 فئة فرعية. وهدفنا الرئيسي هو تسهيل الوصول إلى بيانات الهجوم العارض، بالنظر إلى التكاليف الباهظة والتعقيد المرتبط بتوليد عدد كبير من الهجمات.

تتضمن مجموعة البيانات استراتيجيات هجوم متطورة تتماشى مع أحدث الأبحاث في المجال، مما يدعم الباحثين في تقييم الاستقرار والأمان للنماذج بطريقة منهجية. كما تم دمج هذه الجهود مع جهود سابقة، مما ينتج عنه 7,826 نية مختلفة، مع إدخال فئة إضافية لزيادة التغطية.

مع توفر هذه الموارد، نتطلع إلى أن نعزز البحث في مجالات مثل أمان نماذج الرؤية واللغة وتطوير نماذج الدفاع ضد الهجمات العارضة. عبر إطلاق هذه المجموعة، نأمل في تقليل الحواجز أمام البحث في الهجمات العارضة وتعزيز تقييمات أكثر موثوقية وشمولية.

إذا كنت باحثاً أو ممارساً في مجال الذكاء الاصطناعي، فإن هذه المجموعة تمثل فوزاً كبيراً في سبيل تعزيز أبحاث الأمان والموثوقية. دعونا نعمل معاً لنحو مستقبل أكثر أماناً للنماذج الذكية.