كشف باحثون عن نوع جديد من الهجمات يُعرف باسم هجمات Bit-Flip يعرض نماذج الرؤية واللغة والحركة (Vision-Language-Action Models) لمخاطر أمنية كبيرة. في هذه الهجمات، تمثل الأخطاء التي تحدث في وحدات التخزين (Bits) نقطة ضعف حقيقية، حيث يمكن لهجمات مشابهة لـ"Rowhammer" أن تفسد "INT8" المستخدمة في هذه النماذج.

في الدراسة المثيرة التي تم نشر نتائجها على منصة arXiv، تم تقديم أول هجوم Bit-Flip على نماذج VLA، حيث أظهرت التجارب أن بعض العمليات الاختيارية المخططة يمكن أن تؤدي إلى فشل كامل بنسبة 0%، بينما لم تؤثر المئات من التحولات العشوائية.

تحمل النتائج تفسيرات عميقة، حيث يتوزع الضرر بشكل متباين عبر طبقات متعددة في النماذج، مما يسلط الضوء على الطبيعة الحرجة لسلامة الوزن. على سبيل المثال، تتطلب سياسات "direct regression" و"token policies" بين 1 إلى 5 تحولات، بينما تحتاج سياسات "flow-matching" إلى حوالي 100 إلى 300 تحول.

وعلاوة على ذلك، قد يؤدي الحفاظ على نحو 3.1% من الأوزان إلى حفظ 60% من النجاح عند المقياس K=100، مما يوفر تجربة واعدة لمواجهة تلك الهجمات. يظهر هذا العمل البحثي أن سلامة الأوزان تشكل حدودًا أمنية مهمة للنماذج الأساسية المتجسدة، مما يتيح فتح آفاق جديدة للمخاطر الأمنية في مجال الذكاء الاصطناعي.

إذا كنت تتساءل عما إذا كانت التقنيات الأكثر تقدمًا في مجال الذكاء الاصطناعي آمنة، فلا تتردد في مشاركة رأيك في التعليقات.