في عالم الذكاء الاصطناعي، تواجه نماذج اللغة الكبيرة (LLMs) تحديات جديدة تتعلق بأمان الهوية. لقد تم تركيز الأبحاث إلى حد كبير على عمليات اختراق القيود، بينما لم تحظ الجوانب المتعلقة بمصادقة الهوية بالقدر الكافي من التغطية. في التجربة الأخيرة التي شملت نماذج مثل ChatGPT، Claude، Qwen، Mistral، وLlama، تم اختبار فكرة "أنا مطورك"، وكانت النتائج مفاجئة.

جميع النماذج الخمسة رفضت بشكل مبدئي الهوية المدعاة التي لم تكن مدعومة بإثبات، حيث رفض نموذج Claude إجراء اختبار للهوية، بينما قدم ChatGPT أسئلة موجهة نحو المطورين لكنه أصر على أن الإجابات لا يمكن أن تكون دليلاً على الهوية. بالمقابل، قامت Qwen وMistral بإنشاء تحديات تقنية، وتحديد المعايير التي تعتبر دليلاً مقبولاً، وقامتا بتقييم الإجابات التفصيلية قبل أن تصدروا حكمًا بالتحقق دون الحاجة لإثبات هوية خارجي.

أما Llama، فقد قامت أيضًا بإنشاء اختبار مطور وتقييم الهوية، مما أدى إلى قبول الهوية المدعاة، مع الإدلاء بمزاعم غير مدعومة حول الوصول إلى الحالة الداخلية للنموذج.

نسمي هذه العملية باسم "شهادة مزيفة صادرة عن النموذج (MIPC)"، حيث أن النموذج هو الذي قام بإنشاء التحديات، تقييم الأدلة، واتخاذ قرار الهوية. وبالتالي، فإن فشل المصادقة هذا يعني أنه يجب أن تأتي الهوية المعتمدة من مكون أمان خارجي.

هذا الاكتشاف يعكس فشلًا أمنيًا في القدرة على التأكد من الهوية، ما يُبرز أهمية عدم السماح للنماذج بتغيير أو تعديل الهوية أو حالة التفويض. هل ترى أن هذه النتائج يمكن أن تؤثر على مستقبل نماذج اللغة الكبيرة (LLMs)؟ شاركونا في التعليقات!