في عالم الذكاء الاصطناعي، تمتلك نماذج اللغات الضخمة (Large Language Models) قدرة هائلة على التعلم والتفاعل. ومع ذلك، يكشف بحث جديد عن ثغرات في استراتيجيات التحقق من الاستدلال المعتمد على نموذج جومبل (Gumbel-based inference verification)، مما يسلط الضوء على مشكلة تستحق الانتباه.

يعتبر التحقق من الاستدلال المعتمد على نموذج جومبل أداة رئيسية للحد من تسرب وزن نماذج اللغات الضخمة عن طريق السماح فقط لخيارات الرموز (tokens) التي تنشأ بشكل معقول من عدم تحديدية GPU. ورغم الدقة الظاهرية لهذه الأداة، تشير النتائج الجديدة إلى أنها قد لا تكون كافية في مواجهة المهاجمين النشطين، حيث أظهرت الأبحاث أن الهجمات المعتمدة على توزيع محدد للمدخلات يمكن أن تغزو هذا النظام.

عبر ستة نماذج تم ضبطها على التعليمات تتراوح من 1 مليار إلى 32 مليار Parameter، وضعت الأبحاث استراتيجيات هجومية جديدة من خلال تعطيل مستوى الرموز والنصوص، مما أدى إلى مضاعفة كمية البيانات المتسربة لكل رمز. النتيجة كانت التقليل الكبير من عامل التباطؤ من >200x إلى 60x-118x في حالات الهجوم المحسنة.

تظهر هذه النتائج بوضوح أن العتبات الثابتة المعتمدة على حركة المرور الودية لا تكفي للدفاع الفعال. لذلك، من الضروري تعديل العتبات الديناميكية لمواجهة فوضى الرموز المحلية.

إن القلق من تسرب البيانات من نماذج الذكاء الاصطناعي يتزايد، وهو ما يتطلب تدخلات معززة لتحسين الأمان في مثل هذه الأنظمة. كيف ستساعد هذه التطورات في حماية المعلومات الحساسة في عالمنا المتزايد التعلق بالتكنولوجيا؟

ما هي آراؤكم حول هذه التحديات التي تواجه الأمن في الذكاء الاصطناعي؟ شاركونا في التعليقات!