في الوقت الذي يشهد فيه عالم الذكاء الاصطناعي طفرة هائلة بفضل نماذج اللغات الضخمة (Large Language Models)، تظهر تحديات جديدة مثل هجمات التفكيك المتقطع (Context-Fractured Decomposition) التي تستهدف الأنظمة التي تستخدم هذه النماذج.

تعمل نماذج اللغات الضخمة كوسطاء بين المستخدمين وأدواتهم، حيث تتفاعل من خلال إجراءات تبقي حالة البيانات، مثل الملفات أو السجلات. ولكن ماذا يحدث عندما تتعرض هذه النماذج لهجمات تتجاوز حدود المحادثة الواحدة؟

تشير الدراسات إلى أن معظم الهجمات والدفاعات الحالية تفترض محادثة متواصلة واحدة، مما قد يؤدي إلى فشل الدفاعات في التعامل مع الهجمات التي تتوزع عبر أدوات ووحدات متعددة. تكشف الأبحاث الأخيرة عن وجود فجوات في تتبع مصادر البيانات، مما يمكن المهاجمين من تنفيذ هجمات معقدة تؤدي إلى سلوكيات ضارة في مراحل متأخرة من التفاعل.

تتصدى هذه الدراسة لتحديات "فجوة المصدر" (provenance gap) من خلال تحليل كيفية استفادة المهاجمين من إجراءات تبدو غير ضارة، لكنها في النهاية تؤدي إلى نتائج ضارة عندما يتم تجميعها بمرور الوقت. وباستخدام أدوات تشخيص دقيقة، تم تطوير حلول لمعالجة هذه الثغرات، مثل وضع علامات على خط النسب للمصادر.

تظهر النتائج أن طرق التفكيك المتقطع يمكن أن تعزز معدلات النجاح في الهجمات بنسبة تصل إلى 28.3% مقارنة بالأساليب التقليدية، حتى عند مواجهة قضاة ذوي قدرات قوية في المحادثات الفردية.

مع استمرار تطور عالم الذكاء الاصطناعي، فإن فهم هذه المنهجيات الجديدة يعد خطوة حاسمة نحو تحسين الأمان والموثوقية في استخدام نماذج اللغات الضخمة.