في عالم الذكاء الاصطناعي، تُعتبر الهجمات على انتماء الأعضاء (Membership Inference Attacks) تحدياً حقيقياً، حيث يُختبر ما إذا كان مثال معيّن جزءاً من بيانات تدريب نموذج معين. قدم فريق من الباحثين دراسة جديدة تركز على هذه الهجمات في نماذج اللغة المصقولة ذات الانحرافات التلقائية.

تعمل نماذج اللغة المصقولة (Discrete Diffusion Language Models) بطريقة مختلفة جداً عن نماذج اللغة الانحدارية (Autoregressive Models). حيث تسمح هذه النماذج للمهاجمين باختيار مجموعات أقنعة عشوائية والحصول على توزيع الرموز لجميع المواضع المقنعة في وقت واحد. تقنية سابقًا تُعرف باسم SAMA كانت تتبع استراتيجية تقليد الخسائر من خلال احتساب إشارات إعادة التركيب على عدة أقنعة مختارة عشوائيًا.

لكن، مع دخول تقنية JUMP (طريقة استهداف القناع الموجه بالشك المشترك)، تتمكن الهجمات من استغلال الخصائص المميزة للنماذج المصقولة. تستخدم JUMP القدرة على فك تشفير المعلومات بأي ترتيب لاختيار المواضع ذات الثقة المنخفضة، وتستفيد من الديكود بشكل متوازي لتقييم جميع المواضع المختارة عبر استعلام واحد مشترك مقنع لكل نموذج.

أظهرت النتائج على نموذج LLaDA-8B-Base المصقول عبر ستة مجالات مختلفة، زيادة ملحوظة في دقة الكشف، حيث ارتفعت قيمة ROC-AUC من 0.82 إلى 0.90 مقارنة بتقنية SAMA. كما أن JUMP تتطلب فقط تمرير اختيار واحد وتمريرة تقييم واحدة من خلال كل من النماذج المستهدفة والمرجعية، مما يجعلها وسيلة أكثر كفاءة.

هذه التطورات تفتح آفاق جديدة في مجال أمان وخصوصية البيانات في نماذج الذكاء الاصطناعي، مما يشير إلى أهمية المحافظة على سرية البيانات المستخدمة في التدريب. ما رأيكم في أهمية تقنيات مثل JUMP في تحسين أمان نماذج الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات.