تتطور نماذج الذكاء الاصطناعي (AI) بشكل متسارع، خاصةً من خلال تخصيصها باستخدام البيانات الخاصة التي تُجمع عبر أنظمة التعلم الفيدرالي (Federated Learning). ومع ذلك، فإنه على الرغم من الفوائد الكبيرة لهذه الطريقة في التعلم، تظهر تحديات جديدة تتعلق بإخفاقات الثقة التي لم تُكتشف بعد.

تُعرف هذه الإخفاقات بـ"الإخفاقات الصامتة" (Silent Failures)، والتي تشمل مشكلات منها زيادة الانحياز، وتدهور النزاهة، وانخفاض الاتساق في سلوك النموذج. والسبب في ارتفاع هذه المخاطر هو أن قيود الخصوصية في التعلم الفيدرالي تجعل من الصعب تتبع سلوك النموذج وفهم كيف يتفاعل مع البيانات الجديدة.

نلاحظ وجود انقسام هيكلي بين المعايير المستخدمة لتقييم الأداء—فبينما تقيس المعايير الفيدرالية أداء النظام، فإنها تقدم رؤية محدودة حول سلوك النماذج. بالمقابل، تعتبر المعايير المركزية التي تقيم نزاهة النماذج غير متوافقة مع خصوصية البيانات التي تتطلبها نماذج التعلم الفيدرالي.

من خلال تحليل شامل، نقدم تصنيفًا لستة أنواع من هذه الإخفاقات الصامتة التي تنشأ نتيجة تفاعل تخصيص نماذج الذكاء الاصطناعي، وتغير البيانات، والقيود الأساسية للتعلم الفيدرالي. إظهارنا أن التدريب الذي يحافظ على الخصوصية بمفرده غير كافٍ لضمان نشر موثوق.

نختتم بتحديد جدول أعمال بحثي لتطوير طرق تقييم سلوكية تحافظ على الخصوصية، ونقترح أن تصبح الإخفاقات الصامتة فئة تشخيصية قياسية في مجال الذكاء الاصطناعي الفيدرالي الموثوق.

ما هي رؤيتكم بشأن تأثير هذه الإخفاقات الصامتة على المستقبل المقبل للتعلم الفيدرالي؟ شاركونا آرائكم.