هل يمكن لنماذج اللغات الضخمة إعادة اختراع الخوارزميات الأساسية؟

تتجه الأبحاث مؤخراً نحو فهم قدرة نماذج اللغات الضخمة (Large Language Models - LLMs) على إحداث ثورة في الخوارزميات الأساسية لعلوم الحاسوب. أظهرت هذه النماذج إمكانيات قوية في دفع عجلة الاكتشاف العلمي، لكن السؤال يبقى: هل تستطيع هذه النماذج إعادة اختراع الخوارزميات الأساسية؟

في هذا الإطار، أجرى الباحثون دراسة تستند إلى أساليب إزالة المعرفة من نماذج LLMs، بهدف تقليل استرجاع الخوارزميات المستهدفة وتمكين النموذج من التفكير باستخدام المعرفة المتبقية. وعلى الرغم من أن إزالة المعرفة لا تضمن الإلغاء الكامل للمعلومات، إلا أن النماذج فشلت في استعادة ما يقرب من نصف الخوارزميات المستهدفة.

المثير للاهتمام هو أن حتى حذف اسم الخوارزمية أثناء عملية فك التشفير قد أدى إلى انخفاض ملحوظ في معدل استرجاع النماذج (19-39%)، مما يشير إلى اعتمادها الكبير على المعرفة المحفوظة. كما لوحظ أن الخوارزميات القابلة للاستراداد كانت تميل إلى أن تكون بسيطة في هيكلها أو أفكارها الأساسية، بينما كانت الأخرى أقل وضوحاً.

علاوة على ذلك، تم تقديم مولد للتحقق يعزز قوة التفكير لدى النماذج، مما يساعد على تجنب ظاهرة "انهيار الفكر". من خلال اعتبار معدل الاسترداد للنموذج غير المتعلم كحد أعلى تقريبي، تشير النتائج التجريبية إلى أن أنظمة LLM الحالية لا تزال لديها قدرة محدودة على الابتكار في الخوارزميات الأساسية.

يمكنكم الاطلاع على الشيفرة المصدرية للدراسة على رابط الشيفرة. فما رأيكم في نتائج هذه الدراسة؟ هل تعتقدون أن نماذج الذكاء الاصطناعي ستتمكن يوماً من الابتكار في مجالات جديدة؟ شاركونا في التعليقات!