في تطور بارز ضمن مجال الذكاء الاصطناعي، تم تقديم مفهوم جديد يحمل اسم "جافيل" (GAVEL) الذي يسعى إلى تعزيز الأمان القائم على القواعد من خلال مراقبة التفعيل. تعتبر نماذج اللغات الضخمة (Large Language Models - LLMs) محورية في هذا الابتكار، حيث تستخدم تقنيات المراقبة القائمة على التفعيل للكشف عن سلوكيات ضارة قد لا تبرز في السطح النصي.

لكن يُواجه النهج الحالي في أمان التفعيل، والمعتمد على مجموعات بيانات واسعة لنماذج الاستخدام الخاطئ، تحديات تتعلق بدقة الكشف ومرونة التكييف وقابلية الفهم. ولتجاوز هذه المعوقات، يتم اقتراح نظام أمان جديد يُعرف بالأمان القائم على القواعد، مستوحىً من ممارسات تبادل القواعد في مجال الأمن السيبراني.

هذا النهج يقوم على نمذجة التفاعلات كعناصر معرفية (Cognitive Elements - CEs)، مثل "إصدار تهديد" و"معالجة المدفوعات"، وهذه العناصر تُستخدم لتجميع سلوكيات دقيقة تنتمي لمجالات معينة. هذا التمثيل يوفر دقة أعلى، مع قدرات تخصيص واسعة.

عبر تطوير إطار عملي يحدد قواعد شرطية على هذه العناصر، يصبح من الممكن الكشف عن الانتهاكات في الوقت الحقيقي، مما يتيح للممارسين تكوين وتحديث تدابير الأمان دون ضرورة إعادة تدريب النماذج. وتشير النتائج إلى أن الأمان القائم على القواعد يُحسن من الدقة ويعزز قابليities الخصوصية ويعطي أساسًا للحوكمة المؤسسية القابلة للتفسير.

كما تم فتح مصدر برنامج جافيل، وتقديم أداة جديدة تُسمى "استوديو جافيل"، والتي تمكّن المستخدمين من تأليف وإدارة القواعد التفاعلية بسهولة ويسر. يمكنكم زيارة مشروعنا على GitHub للحصول على الشفرة ومجموعات البيانات المتاحة.

إذا كنت مهتمًا بكيفية تعزيز أمان أنظمة الذكاء الاصطناعي بشكل فعال، تابعنا وشاركنا آرائك حول هذا التطور المثير!