ظهرت في الأونة الأخيرة دراسة مثيرة تكشف عن إحدى الأبعاد الأكثر تحدياً لأمن التطبيقات التي تعتمد على النماذج اللغوية الضخمة (Large Language Models). فعلى الرغم من الحلول العديدة المقترحة للتصدي لهجمات إدخال الأوامر (Prompt Injection)، لم يثبت أي منها فعاليته حتى الآن.

الدراسة، التي تناولت موضوع نموذج تفاعل الأجهزة المشتركة (Shared-Embedding Architecture)، أثبتت بأنه ليس من المستطاع تحقيق السيطرة الكاملة على هذه الهجمات بسبب عدم الفصل القوي بين البيانات والأوامر.

تناول الباحثون مفهوم نماذج العمل المدفوعة (Prompted Action Models)، حيث تشمل نتائجها تصرفات ذات سلطة تحكمية، تتضمن قرارات الرفض وتفويض الأدوات وتوجيه السياسات. من خلال تقديم مفهوم "التحكم الدلالي الموثوق" (Semantic-Faithful Control)، أظهروا أن هذا السلوك يعتمد فقط على معنى المدخلات غير الموثوقة، وليس على كيفية تشفيرها.

واستنادًا إلى ثلاث نتائج رئيسية، أثبتوا أن تحقيق هذا التحكم داخل الأنظمة المشتركة شبه مستحيل. فالوضع يبدو مشابهاً للخلل الموجود في آلات فون نيومان، الذي يؤدي إلى تجاوزات الذاكرة (Buffer Overflows)، وهو ثغرة استغرقت عقودًا من الجهد لتضميدها.

تشير النتائج إلى أنه لا يمكن القضاء على هجمات إدخال الأوامر فقط من خلال تحسين التصنيف أو التوافق في الأنظمة. بل يتطلب الأمر فصلًا معماريًا بين قنوات البيانات والأوامر. فهل ستسهم هذه الدراسة في فتح أبواب جديدة لحلول أمان أكثر فعالية؟ ما رأيكم في هذا التطور؟ شاركونا في التعليقات.