في عالم الذكاء الاصطناعي، يعتبر فهم كيفية تمثيل نماذج اللغة الضخمة (LLMs) للسلامة على نحو صحيح أمرًا حيويًا لتشخيص نقاط الضعف في التنسيق، حيث يوضح لماذا تنجح أساليب التحايل (jailbreaks) ويقدم رؤى حول تصميم استراتيجيات توافق آمنة.

من الأبحاث السابقة، وُجد أن LLMs المتوافقة تقوم بتشفير ضرر المادة (harmfulness) واتجاه الرفض (refusal direction) كاتجاهات قابلة للفصل في مجرى التردد، مما يوفر تفاعلاً متسقًا مع المستخدمين. لكن ما أظهرته أبحاثنا الجديدة كان مثيرًا، إذ يتضح أن التحايلات تنجح عندما يتم كبت أي من اتجاهي الرفض أو الضرر قبل إنتاج أي رموز.

لم نقف عند هذا الحد، بل قمنا بتوسيع التحليل ليشمل مواقع الرموز في الردود، حيث وجدنا أن الموديل يتمكن من التعرف على المحتوى الضار حتى أثناء عملية توليده، حتى لو فشل في التعرف على المحتوى الضار في المرحلة الأولية.

استجابة لهذه النتائج، قمنا بتقديم HARC (Coupling Harmfulness And Refusal)، وهو طريقة للتعديل الدقيق تعمل على ربط الاتجاهات الضارة والرفض عبر كلا الموقعين. هذه العملية تحافظ على بقية مجرى التردد دون تدهور قدراته العامة أو تضخيم الرفض.

أثبتت التجارب المكثفة أن HARC يحقق أفضل توازن بين القوة والأمان وسهولة الاستخدام، مقارنةً بستة طرق أساسية تغطي أساليب الأمان المستخدمة في وقت التدريب والاستدلال. الأهم من ذلك، أن اتجاهات الضرر والرفض تنتقل عبر خمسة عائلات من النماذج وبمقاييس متنوعة دون الحاجة لضبط معين مع الهندسة المعمارية.

إن HARC ليست مجرد خطوة للأمام في الأبحاث، بل هي أساس لتطوير نماذج ذكية أكثر أماناً وموثوقية. فما رأيكم في هذا التطور الثوري؟ شاركونا آراءكم في التعليقات!