في عالم الذكاء الاصطناعي والتعلم الآلي، تلعب بيانات التدريب دوراً حاسماً في تشكيل فعالية النماذج. ولكن كيف يمكننا تقدير تأثير مجموعة من الأمثلة على نتائج النموذج؟ في دراسة جديدة، تم تقديم طريقة مبتكرة تعرف بدوال التأثير المتفاعلة (Interaction-Aware Influence Functions)، تكشف كيف يؤثر تفاعل الأمثلة مع بعضها البعض على الأهداف التي نسعى لتحقيقها.

تُعتبر دوال التأثير (Influence Functions) أدوات لتحليل كيف أن إزالة مثال تدريبي معين يمكن أن تؤثر على وظيفة مستهدفة، مثل خسارة نموذج محجوز (held-out loss). عادةً ما يتم تقدير تأثير مجموعة من الأمثلة من خلال جمع التأثيرات الفردية لأعضائها. ومع ذلك، هذه العملية لا تأخذ بالاعتبار كيف تؤثر الأمثلة معاً على الهدف، مما قد يؤدي إلى تجاهل التفاعلات المهمة بين الأمثلة.

تقدم الدراسة الجديدة نموذجاً مبتكراً يقوم بتوسيع الهدف إلى المرتبة الثانية حول المعلمات المدربة، مما يتيح لنا الحصول على تقدير يعزز الجمع القياسي مع مصطلح تفاعلي ثنائي يتناول التوافق بين تأثير مثالين على هذا الهدف. تم تقييم هذه الطريقة بشكل تجريبي في حالتين:
1. على ستة أزواج من مجموعات البيانات والنماذج، مثل الانحدار اللوجستي والشبكات العصبية متعددة الطبقات والشبكات العصبية ResNet-9، أظهر تقديرنا تحسناً ملحوظاً في تتبع إعادة تدريب مجموعة معينة بالمقارنة مع التأثيرات من الدرجة الأولى، عبر جميع الحالات.
2. عند استخدامه كقاعدة اختيار طموحة لتدريب البيانات على نموذج Llama-3.1-8B، تفوق تقديرنا على الأساليب السابقة المبنية على التأثير وقياس التشابه التمثيلي في خمسة من أصل سبعة مهام تالية، في حالة فشل الاختيار المعتمد على التأثير وفق النمط العشوائي.

إن هذه الطريقة تفتح آفاقاً جديدة أمام الباحثين والمطورين لفهم كيف يمكن للتفاعلات بين البيانات أن تعزز من أداء نماذج الذكاء الاصطناعي. هل تعتقد أن هذه الطريقة ستغير مستقبل تطوير نماذج التعلم الآلي؟ شاركونا آراءكم في التعليقات!