في عالم الذكاء الاصطناعي، تتصدر نماذج اللغات الضخمة (Large Language Models) قائمة الابتكارات التقنية، حيث تُظهر قدرة مذهلة على إنجاز المهام بشكل تلقائي، واستخدام الأدوات، وإنجاز عمليات متعددة الخطوات. لكن، مع هذه القوة تأتي تحديات جديدة، إذ تعتبر التفاعلات العدائية تهديداً محتملًا يمكن أن يؤثر على سلوك هذه النماذج.

تتمثل المشكلة في أن التهديدات الحالية تعتمد على تقنيات متعددة، مثل إدراج الطلبات الخبيثة (prompt injection) والهجمات المحتوى غير المباشر، مما يُظهر ضعف الدفاعات الحالية التي تركز على تصفية الطلبات وقواعد الأمان. هنا تبرز ضرورة تطوير آليات دفاعية مميزة.

في هذا السياق، قدَّم الباحثون طبقة كشف احتيال منخفضة الكمون تهدف إلى التعرف على الأنماط العدائية في تفاعلات نماذج اللغات الضخمة. بدلاً من الاكتفاء بتحديد الطلب الخبيث، تعتمد هذه الطبقة نهجًا مبتكرًا يقيس المخاطر بناءً على مسارات التفاعل، معتمدةً على ميزات هيكلية مستمدة من خصائص الطلب، وديناميكيات الجلسات، واستخدام الأدوات، وسياق التنفيذ، وإشارات مستوحاة من عمليات الاحتيال.

عبر تقييم الإطار المقترح، تم إنشاء مجموعة بيانات تركيبية تضم 12,000 تفاعل متعدد الخطوات لمحاكاة التدفقات العملية الواقعية. باستخدام 42 ميزة هيكلية ومصنف XGBoost، أثبتت هذه الطبقة أنها أسرع بأكثر من 9 مرات مقارنةً بالكاشفات المعتمدة على نماذج اللغات الضخمة.

تظهر التجارب والدراسات المعملية أهمية إجراء كشف سلوكي على مستوى التفاعل كعنصر رئيسي في الدفاع عند نشر نماذج اللغات الضخمة. فهل أنتم مستعدون لاستكشاف كيف يمكن لهذه الابتكارات أن تُحسن أمان الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!