في عالم الذكاء الاصطناعي اليوم، تتغير نماذج اللغة الضخمة (Large Language Models) بين الحين والآخر، مما يؤثر على سلوكها وقدرتها على تقديم نتائج دقيقة، في حين تبقى outputs الروتينية كما هي. وهذا الأمر يمثل تحدياً كبيراً للحكومة الرقابية على الذكاء الاصطناعي، خاصة عندما تكون أوزان النموذج ملكية خاصة.

لذا، نُقدّم إطار عمل متقدّم يعتمد على zk-SNARK، يسمح بإجراء مراجعات تهدف إلى تعزيز الخصوصية. يبحث هذا الإطار عن بروبز تم تصميمها على غرار الأمثلة المعادية (Adversarial Examples)، بحيث تُعزز من تباين المخرجات بين النموذج المعتمد والنموذج المعدل عند النشر.

نستعرض مختلف أنواع البروبس التي تتناسب مع أساليب وصول متعددة:
- البروبز المعتمدة على الرموز تعمل في بيئة صندوق أسود، وتحتاج فقط إلى واجهة الإدخال وTokenizer والمفردات.
- البروبز المعتمدة على التضمينات تتطلب وصولًا شبه شفاف إلى واجهة التضمين.
- بروبز الضغط تعتمد على واجهات إضافية ولكن لا تحتاج إلى وصول كامل إلى أوزان النموذج أو بنية النموذج.

تتمتع هذه المجموعة المتنوعة من البروبس بقدرتها على موازنة بين الحساسية ومتطلبات الوصول وتكاليف النشر. وقد أجرينا تقييمات على بناء البروبس عبر هيكليات نماذج اللغة المختلفة وسيناريوهات تعديل النموذج، مما يعكس هجمات ما بعد النشر على منصات معالجة الرسوميات (GPU).

تُظهر النتائج التجريبية أن البروبس المعتمدة على الرموز تُقدّم حساسية قوية في المتوسط عبر النماذج ومنصات GPU، رغم عملها في بيئة صندوق أسود. في سياق ذلك، تظل عملية zk-SNARK الخاصة بنا عملية، حيث يتزايد وقت الإثبات من 1.02 إلى 1.78 ثانية مع زيادة عدد البروبس من 1 إلى 50، بينما يبقى وقت التحقق قريبًا من 0.84 ثانية وحجم الإثبات دون تغيير.

إن هذا التقدم في مجال الذكاء الاصطناعي لا يُعد فقط خطوة نحو تعزيز الأمان، بل يعكس أيضًا كيف يمكننا استخدام التكنولوجيا الحديثة لحماية الخصوصية. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!