في عالم الذكاء الاصطناعي، تعتبر ثقة التنبؤ عنصرًا محوريًا في السيطرة على الأنظمة الحرجة التي تتطلب قرارات واعية بالمخاطر. بينما كانت الهجمات السابقة على تعلم الفيدرالية تركز على دقة النماذج أو زرع أبواب خلفية، يظهر بحث جديد إطارًا جديدًا للخطر يتمثل في هجوم يُعرف باسم هجوم قياس درجة الحرارة (Temperature Scaling Attack - TSA).

يستهدف هذا الهجوم قياس الثقة بشكل خاص، وهو هجوم يحدث أثناء التدريب ويؤدي إلى تدهور في التهيئة دون التأثير على الدقة. يتم تنفيذ TSA عن طريق إدخال قياس درجة الحرارة مع ربط معدل التعلم أثناء التدريب المحلي، مما يحول ثقة النموذج مع الحفاظ على دقة التنبؤ قريبة من التدريب العادي.

توفر الدراسة تحليلًا للتقارب تحت ظروف بيانات غير مستقلة ومتوزعة (Non-IID)، حيث تُظهر أن الربط يتحكم في نطاق التحديث الأساسي بينما يبقي على بقايا مدفوعة بدرجة الحرارة، مما يؤدي إلى بنية تقارب غير محدبة قياسية للنماذج الفيدرالية مع مصطلح إضافي للبقايا.

عبر ثلاثة معايير، أظهر TSA تقليصاً كبيراً في التهيئة (مثل زيادة خطأ تبلغ 145% على مجموعة CIFAR-100) مع الحفاظ على تغيير أقل من 2% في الدقة، وأيضاً حافظ على فعاليته تحت aggregation الروابط القوية والدفاعات بعد التدريب.

تُظهر دراسات الحالات أيضًا زيادة تصل إلى 7.2 مرة في التحقق المفقود في القطاع الصحي وفشل شديد في قياس الثقة في قيادة السيارات الذاتية، حتى مع بقاء دقتها كما هي. في النهاية، تؤكد النتائج أهمية حماية سلامة القياسات كواسطة هجوم حرجة في تعلم الفيدرالية.

ما رأيكم في هذا التطور الذي قد يؤثر على المجالات الحيوية كهذه؟ شاركونا في التعليقات.