في عالم الذكاء الاصطناعي، تعتبر أنظمة التخزين المؤقت (Cache) واحدة من أهم التقنيات التي تساهم في تقليل الزمن اللازم لاستنتاج المخرجات من نماذج اللغات الكبيرة (Large Language Models - LLMs). إلا أن تقنية التخزين المؤقت التقليدية تعتمد على المطابقة الدقيقة للأسماء والنصوص، مما يؤدي إلى انخفاض معدل النجاح في استرجاع البيانات.
في خطوة تهدف إلى تحسين الكفاءة، طورت الأنظمة الحديثة مفهوم إعادة استخدام التخزين المؤقت الذي لا يعتمد على المراكز، مما يسمح بإعادة استخدام البيانات كلما ظهرت أجزاء نصية متطابقة، بغض النظر عن مواقعها في النص. ومع ذلك، أظهر البحث الأخير أن هذه التقنية قد أدت إلى ظهور تهديد جديد يعرف باسم "اختطاف التخزين المؤقت" (KV Cache Hijacking).
تتمثل مشكلة هذه الثغرة في أن وحدات التخزين المؤقت تُسترجع عن طريق المطابقة مع النص، لكنها تحتفظ بالسياق الذي تم حسابها فيه. فقد يتسبب هذا في انضمام بيانات مشبوهة إلى أجزاء نصية تبدو عادية، مما يؤدي إلى تغيير سلوك النموذج بطريقة غير متوقعة.
تقديم إطار العمل HIJACKKV، الأول من نوعه، الذي يستغل هذه الثغرة بنجاح، حيث يُظهر كيفية استغلال بيئات التخزين المؤقت لتحقيق أهداف المهاجمين دون أي تدخل مباشر. بفضل هذا النظام، يمكن لمدخلات نصية غير ضارة تحقيق معدل نجاح يزيد عن 94% عند الاستخدام، حتى في حالات تعرض التخزين المؤقت لقيود مثل معدل ضبط منخفض أو إعادة حساب متكررة.
تصميم HIJACKKV يتعلق بتعظيم التأثير المُكثَّف للبيانات، مما تمكّن المهاجم من ترميز أهدافه في التخزين المؤقت، كل ذلك دون تغيير نص الإدخال المستهدف.
تطرح هذه النتائج مسألة ملحة تتعلق بأمان أنظمة التخزين المؤقت، مما يدفع الباحثين إلى التفكير في كيفية بناء أنظمة آمنة ضد مثل هذه الهجمات. فهل سيكون صحيحًا تقليل فعالية أنظمة التخزين المؤقت؟ الأمر متروك لنقاش المجتمعات التقنية والأحكام الأمنية المستقبلية.
ما رأيكم في هذا التطور؟ شاركونا في التعليقات.
ثغرة جديدة في أنظمة التخزين المؤقت: HijackKV تهدد أمان نماذج الذكاء الاصطناعي!
تم الكشف عن ثغرة جديدة تهدد أنظمة التخزين المؤقت للنماذج اللغوية الكبيرة، حيث يمكن للمهاجمين استغلالها لاغتصاب سلوك النماذج دون الحاجة إلى إدخال نصوص مشبوهة. تعرفوا على HijackKV وكيف يمكن أن يؤثر على أمان ذكاء الأعمال.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
