تواجه نماذج اللغات الكبيرة (LLMs) تحديات متزايدة في التطبيقات الحساسة، حيث قد تتخفى نوايا ضارة من خلال سيناريوهات خيالية أو دوافع تبدو طبيعية. تكمن المشكلة في أن الدفاعات الحالية قد تفشل في كشف الهجمات المموهة أو ترفض الطلبات المشروعة بشكل مفرط. هنا يظهر SRD-GUARD كإطار دفاعي مبتكر يدعو إلى إعادة التفكير في طريقة حماية هذه الأنظمة.

يتمثل الإبداع الرئيسي في SRD-GUARD في استخدام إعادة الكتابة الدلالية (Semantic Rewriting) لتوليد خمس إعادة صياغة ذات صلة دلالية، والتي تحتفظ بالهدف الأساسي بينما تزيل التعبئة السياقية غير الضرورية. يتم تقييم كل من الطلب الأصلي وإعادة الصياغة بواسطة عدد من المقيمين المستقلين القائمين على الذكاء الاصطناعي، ما يسمح بتحديد المخاطر بشكل ديناميكي.

تتميز SRD-GUARD بقدرتها على التكيف، حيث تجمع بين العتبات المطلقة للمخاطر وتغير المخاطر النسبي بين الطلبات الأصلية والمعدلة، مما يتيح لها الكشف عن النوايا الخفية بدقة.

بالمقارنة مع هجمات UNIATTACK وCIPHER وDeepInception، أظهرت SRD-GUARD معدل استجابة دلالي (DSR) يبلغ 91.44% و100% على التوالي، مع معدلات خطأ منخفضة (ORR) بنسبة 8.00% و12.00%. تشير النتائج إلى أن إعادة الكتابة تكشف الانتقائية في النوايا الضارة، وأن التقويم الجماعي يحسن القدرة على التعامل مع سلوك المقيمين المختلفين.

بالإجمال، يقدم SRD-GUARD نهجًا فعالًا في مواجهة هجمات الخطر الأسود، من خلال دمج تقنيات كشف النوايا الدلالية مع تقييم المخاطر القائم على الإجماع. يمكنكم الحصول على تفاصيل إضافية عن هذا الابتكار من خلال الرابط هنا.

ما رأيكم في هذا الحل الجديد لمواجهة التهديدات؟ شاركونا أفكاركم في التعليقات!