في عصر يتزايد فيه الاعتماد على الذكاء الاصطناعي، تبرز إحدى الدراسات الجديدة كتحذيرٍ مهم حول الثغرات الأمنية في نماذج اللغة الضخمة (LLMs). حيث تم الكشف عن أسلوب اختراق مبتكر يسمح بإعادة بناء النصوص المُولدة من قبل هذه النماذج عبر ملاحظة نشاط ذاكرة التخزين المؤقت أثناء عملية "إزالة التوكن" (detokenization).

على عكس التقنيات السابقة التي كانت تعتمد على افتراضات معينة تتعلق بنشر البيانات، يتجه هذا البحث نحو استهداف أداة إزالة التوكن، وهي العنصر الأساسي في عمليات استدلال نماذج اللغة. تمتاز هذه الطريقة باستخدام تقنيتي "Flush+Reload" و"Prime+Probe" لاستخراج إشارات نظيفة من الشيفرات المستخدمة في إعدادات التوكن، مما يسهل تتبع النشاطات التي تعتمد على الرموز.

وفي تفاصيل مثيرة، تم اختبار هذا الهجوم على مجموعات بيانات متعددة ومنصات هاردوير مختلفة، وتمت ملاحظة إمكانية استرجاع نصوص دقيقة دلالياً من عمليات النماذج المحلية بكل نجاح. بفضل انتشار هذه الثغرة في أكثر تطبيقات توكن الشائعة، تتوسع دائرة الخطر بشكل كبير، حيث تشمل أنظمة مثل "OpenClaw".

إن إدراك هذه التهديدات يمكن أن يغير معايير الأمان في عالم الذكاء الاصطناعي، مما يستدعي ضرورة تطوير بروتوكولات للحماية. ما رأيكم في هذا التطور؟ هل تعتقدون أن شركات التقنية ستتمكن من معالجة هذه الثغرات؟ شاركونا أفكاركم في التعليقات!