في عالم الذكاء الاصطناعي، تُعتبر القدرة على حذف البيانات بدقة من ضمن أعقد التحديات. وقد أظهرت الأبحاث الأخيرة أنه من الممكن الإبقاء على موثوقية نماذج اللغة الكبيرة (Large Language Models) أثناء عمليات الحذف. في دراسة جديدة، تم استخدام إستراتيجية تسمى "الحذف الدقيق المدعوم"، التي تسعى لتكرار نتائج معينة بعد غياب عينات محددة من مجموعة البيانات.
تتضمن الدراسات تجارب باستخدام نماذج مثل Pythia وLlama، حيث أظهر نموذج Pythia 160M دقة مطلقة في أربعة أشكال من الحذف، بينما تطابق نموذج Pythia 2.8B جميع العناصر البالغ عددها 2,775,208,960 للطلب العشوائي بنسبة 5%. وفيما يتعلق بنموذج Llama 3.2 1B، فقد أظهر دقة كاملة بعد استبعاد 400 من 4,000 مثال من صندوق التخزين.
هذه النتائج تفتتح الأبواب أمام إمكانية تحسين عمليات الحذف في نماذج الذكاء الاصطناعي، لكنها لا تؤكد أن العمليات ستكون رخيصة أو سهلة، حيث أن الطلبات الموزعة قد تتطلب تكراراً شبه كامل.
تجدر الإشارة إلى أن هذه الدراسات تُعتبر أولية، حيث تم إصدار قياسات قياسية فقط لأغراض التوثيق، مما يجعل الأبحاث في هذا المجال مستمرة وغير نهائية. لكن، مع استمرار التطور، قد نتمكن من تحقيق التوازن بين الحذف الفعال وموثوقية الأداء في نماذج الذكاء الاصطناعي.
إعادة التعلم في الذكاء الاصطناعي: كيفية حذف البيانات بدقة في نماذج اللغة بمليار معامل!
اكتشف كيف يمكن لنماذج اللغة الكبيرة حذف البيانات بشكل دقيق دون التأثير على أدائها. نتائج جديدة تُظهر إمكانية تحقيق الدقة العالية في عمليات الحذف! تعرّف على المزيد.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
