تمثل نماذج اللغات الضخمة (LLMs) التي يمكن الوصول إليها فقط عبر واجهات برمجة التطبيقات (APIs) نقطة ضعف محتملة أمام هجمات التقطير (Distillation Attacks). في هذه الهجمات، يقوم المهاجم باستجواب النموذج وتدريب نموذج ثانٍ يُعرف باسم "الطالب" بناءً على مخرجاته.

مؤخراً، برزت مجموعة من الأساليب الدفاعية المعروفة باسم دفاعات الانحراف الناتج (Output Perturbation Defenses)، والتي تسعى لتعديل مخرجات النموذج "المعلم" من أجل تقليل أداء الطالب، بينما تحافظ على فائدة المخرجات للمستخدمين الشرعيين. لكن، تعد هذه الدفاعات منظومة جديدة نسبياً، مما يجعل من الصعب تقييمها بشكل موحد، خصوصاً فيما يتعلق بمدى قدرتها على مواجهة الاعتراضات الفعلية.

إحدى أهم المشكلات المتعلقة بهذه الدفاعات هي نقص نموذج التهديد المشترك. فهذا النقص يزيد من صعوبة تقييم فعالية الدفاعات المقترحة، وقد يؤدي إلى شعور زائف بالأمان عند استخدامها لحماية الملكية الفكرية أو لدعم الامتثال للوائح.

لذا، تقترح الدراسة نموذج إطار عمل لتوصيف المهاجمين عبر ثلاثة أبعاد: ميزانية الاستفسار، ميزانية البيانات، وملف واجهة التفاعل، والذي يوضح كيفية تفاعل المهاجمين مع واجهة برمجة التطبيقات.

باستخدام تقنية أخذ عينات مضادة للتقطير كدراسة حالة، يظهر أن فعالية الدفاع تعتمد بشكل كبير على نموذج التهديد المفترض. ولذلك، توصي الدراسة بأن يتم تحديد وتحليل قدرات المهاجمين بوضوح في أي أطر عمل مستقبلية تتعلق بدهاءات التقطير، بالإضافة إلى استراتيجيات الحوكمة والسياسات التي تُبنى حول هذه الدفاعات.

إن فهم هذه التعقيدات سيمهد الطريق لتطوير أساليب أكثر فعالية لمواجهة تهديدات المستقبل في عالم الذكاء الاصطناعي.