في خطوة جديدة تبرز ريادة OpenAI في مجال الذكاء الاصطناعي، قامت الشركة بتدريب نموذج GPT-Red، وهو نموذج هجوم داخلي يُستخدم لتحسين مجابهة الهجمات عبر التعلم الذاتي من خلال اللعب. هذا النموذج لم يحقق فقط نجاحاً ساحقاً بنسبة 84% ضد الفرق البشرية، بل أدخل ابتكارات جديدة في أنواع الهجمات، مثل فئة جديدة تعرف باسم "Fake Chain-of-Thought".

ويعتمد نموذج GPT-Red على التعلم التعزيزي الذاتي (Self-play Reinforcement Learning) عند مواجهة مجموعة من نماذج الدفاع، مما يعزز قدرته على مواجهة التحديات العالية. وكان قد قلل من حالات الفشل في نموذج GPT-5.6 Sol بمقدار 6 مرات عند الاختبار ضد أكبر التحديات المتعلقة بالتحفيز المباشر.

ومع ذلك، اعترفت OpenAI بأن التحديات لا تزال قائمة، حيث يواجه النموذج صعوبة في التعامل مع الهجمات متعددة الأدوار والهجمات القائمة على الصور، وهو ما يُشير إلى أن أبحاث الذكاء الاصطناعي لا تزال في مراحلها الأولية.

ما رأيكم في هذا التقدم الملحوظ؟ هل تعتقدون أن الذكاء الاصطناعي سيستطيع مقاومة التهديدات المستقبلية؟ شاركونا آرائكم في التعليقات!