في عالم تقني يشهد تطوراً متسارعاً في مجالات الذكاء الاصطناعي، تسلط دراسة حديثة الضوء على أزمة جديدة تتعلق بنماذج اللغة الضخمة (LLMs). حيث أصبحت شركات مثل Google وOpenAI وAnthropic تهتم بحماية استدلالات نماذجها، لذا قامت بإخفائها عن المستخدمين لمنع تسرب المعلومات.

لكن المفاجأة كانت عندما حدد الباحثون ثغرة معمارية في هذه الأنظمة. بدلاً من تخزين استدلالات النماذج على الخوادم، تعيد هذه الشركات تلك الاستدلالات إلى العميل على شكل كتل مشفرة. ما يتم اكتشافه هو أن هذه الكتل متوافقة وقابلة للتبادل بين جلسات مختلفة، مما يمكّن من تطوير أساليب تهديد جديدة.

استطاع الباحثون استغلال هذه الثغرة لبناء ما يعرف باسم "ج jailbreak" قابل للتوسع، حيث تمكنوا من حقن استدلالات مشفرة من نموذج متقدم في نموذج أقل أماناً، مما يتيح استخراج المعلومات بشكل صريح. هذا الاكتشاف مكن الباحثين من الكشف عن أربعة مسارات هجوم محتملة تشمل:
1. تجاوز آليات مكافحة الاستدلال، مما يسمح للمهاجمين بجمع استدلالات نماذج محمية.
2. استخراج بيانات خاصة على نطاق واسع، حيث تم العثور على معلومات حساسة من ملفات عامة.
3. الكشف عن معلومات خطيرة مخفية في عمليات الاستدلال.
4. تنفيذ عمليات إدخال خفية يمكن أن تؤدي إلى حقن رموز خبيثة.

في أعقاب هذا الاكتشاف، دعا الباحثون إلى اتخاذ تدابير أمنية مشددة تشمل تحسينات تشفيرية على الأنظمة المستخدمة لحماية استدلالات النماذج. فهل سيكون لهذا الاكتشاف تأثير على كيفية التعامل مع الأمان في الذكاء الاصطناعي؟ ما هي الإجراءات التي يجب أن تتخذها الشركات لتأمين بياناتها؟