في زمن تتسارع فيه الاستثمارات في نماذج اللغة الكبيرة (Large Language Models - LLMs)، يبرز التحدي المتعلق بحماية الملكية الفكرية من إعادة توزيع غير مصرح بها أو استخدام تجاري مسيء. تعتبر البصمات المحقونة - وهي أزواج من اداة التفعيل والهدف - بمثابة إشارة ملكية يمكن التحقق منها بطريقة عملية. لكن الطرق المتاحة حالياً تفصل بين مرحلتي حياة البصمة: كيفية إنشائها وكيفية حقنها.
تواجه الأطر الحالية اتنين من العقبات الرئيسية؛ فالبصمات اللغوية الطبيعية عرضة للتفعيل العرضي، في حين أن البصمات المشوشة يمكن تصفيتها بسهولة باستعمال عوامل التعقد. علاوة على ذلك، فإن فصل البناء عن الحقن يفقد هذه الأخيرة الوعي بالهيكل اللغوي للمنبه، مما يفتقد فرصة تحسين محدد.
تأتي هذه الدراسة لتطوير إطار عمل موحد يستند إلى البناء المدفوع للحقن، حيث يتم أولاً بناء بصمات مُختلطة اللغات (code-mixing fingerprints) عبر دمج لغات ذات موارد قليلة وفقاً لقواعد استبدال كثافة الدلالة ومزج منتحٍ للنحو، مما يخلق أدوات تفعيل ذات تعقيد أقل بكثير مقارنةً بالأساليب المشوشة.
التالي هو عملية حقن تتم بطريقة مدفوعة بالهيكل اللغوي، حيث تتم كل بصمة باستخدام إسقاط المساحة السلبية مبني على تمثيلات متعددة لغات ذات موارد غزيرة تحافظ على المعرفة. ولإضافة المزيد من الدقة، يتم دمج خطوة محاذاة عبر اللغات توجه تحديث الأوزان نحو المساحة التمثيلية للغة البصمة.
هذه الطريقة الجديدة في الحقن المدعوم من البناء تضمن أن التحديثات تتم بمعلومات لغوية، مما يعزز من استقرار العملية. وقد أظهرت التقييمات الموسعة حول عدم القابلية للاكتشاف، والكفاءة، وغياب الضرر أن هذه الوسيلة تؤكد الملكية بشكل مستمر مع تأثير طفيف جداً على أداء النموذج.
ابتكار ثوري في نماذج اللغة: طريقتان جديدتان لتأكيد الملكية باستخدام بصمات لغوية مدفوعة بالبناء
تقدم دراسة جديدة إطار عمل مبتكر لتأكيد ملكية نماذج اللغة الكبيرة (LLMs) من خلال بصمات لغوية دقيقة تتجنب مشكلات التفعيل العرضي. هذه الطريقة تضمن استقرار الملكية مع تأثير ضئيل على الأداء العام للنموذج.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
