في عالم الذكاء الاصطناعي، تُمثل نماذج اللغة الكبيرة (LLMs) واحدة من أبرز الإنجازات. ولكن مع تعقد هذه النماذج، تصبح الحاجة إلى "نسيان" معلومات معينة أمرًا ملحًا. ماذا لو كنت ترغب في تقليل الاستجابات غير المرغوبة في نموذجك دون التأثير على كفاءته العامة؟ هنا يأتي دور التقنية الجديدة المعروفة باسم "نظام النسيان المستهدف المقيد بنطاق الصفر" (Null-Space Constrained Response-Specified Unlearning) والمعروفة اختصارًا بـ NSRU.
تستند هذه الطريقة إلى إطار عمل منخفض الرتبة، يضمن أن يتم تعديل النموذج بشكل دقيق بحيث يثبط المعلومات غير المرغوبة مع الحفاظ على كفاءة النموذج. يقوم NSRU باستخدام استجابة مستهدفة آمنة لتحديد السلوك المرغوب لكل استفسار نسيان، مما يسمح بالتنظيم الموجه للطريقة التي يتفاعل بها النموذج مع الاستفسارات.
من خلال تجارب على نماذج TOFU، أثبتت NSRU كفاءتها في تقليل المعرفة القابلة للاستخراج مع تحسين أداء النموذج في مجال الاستنتاجات. كما أظهرت النتائج أن هذه التقنية تُحافظ على دقة المجالات الخطرة في حدود قريبة من الاختيارات العشوائية.
إجمالًا، تشير الدراسات إلى أن NSRU تعمل على تحسين التعلم الاستهدف دون الاستجابة غير المرغوبة، مما يتيح للمطورين والمستخدمين مرونة أكبر في استخدام نماذج الذكاء الاصطناعي. يمكن أن تمثل هذه التقنية اليوم خطوة متقدمة نحو نماذج أكثر ذكاءً وقدرة على مراعاة المتطلبات الأخلاقية والمهنية لدينا.
التحكم في نسيان نماذج اللغة الكبيرة: تقنية جديدة تعيد تعديل الاستجابات غير المرغوبة
تقدم ورقة بحثية جديدة مفهوم نسيان نماذج اللغة الكبيرة (LLM) بطريقة محسّنة تعتمد على التحكم في الفضاءات الصفريّة. هذه التقنية تثبط المعرفة غير المرغوبة مع الحفاظ على قدرات النموذج المفيدة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
