في عالم الذكاء الاصطناعي، تتزايد أهمية [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة) (Large Language [Models](/tag/models)) في [تحسين](/tag/تحسين) [كود](/tag/كود) البرمجة، ولكن هل تعتمد هذه [النماذج](/tag/النماذج) على [المعرفة](/tag/المعرفة) السابقة فقط أم تحتاج إلى [البحث](/tag/البحث) الفعال؟ [دراسة](/tag/دراسة) حديثة نشرها مجموعة من [الباحثين](/tag/الباحثين) على [منصة](/tag/منصة) arXiv تسلط الضوء على هذا الموضوع الشائق من خلال ثلاث [تجارب](/tag/تجارب) محكومة.
تُظهر [الدراسة](/tag/الدراسة) أن [النماذج](/tag/النماذج) في حالة [تحسين الكود](/tag/[تحسين](/tag/تحسين)-[الكود](/tag/الكود)) تتفاعل بشكل مبالغ فيه مع [المعرفة](/tag/المعرفة) المسبقة التي تم تدريبها عليها، وهذا يتضح من خلال النتائج التالية:
1. **تحسين الصندوق الأسود**: في سيناريو [التحسين](/tag/التحسين) الخالص، تعمل [النماذج اللغوية](/tag/[النماذج](/tag/النماذج)-اللغوية) كأدوات جشعة تسعى لتحقيق أفضل النتائج دون اعتبار خارج عن ذلك.
2. **توليد النواة بدون عينة**: عندما تم تزويدها بمعلومات عن حجم الإدخال، لم [تحقق](/tag/تحقق) [النماذج](/tag/النماذج) نتائج أفضل؛ حيث تظل المعلمات التي تم التوصل إليها متشابهة بغض النظر عن حجمها. وهذا يعني أن [التعليمات](/tag/التعليمات) بشأن الحجم قد تكون غير مرئية بالنسبة لها.
3. **تحسين النواة في حلقة [التغذية](/tag/التغذية) الراجعة**: تُظهر النتائج أن استخدام مكتبة [CUDA](/tag/cuda) يؤدي إلى [تحسين](/tag/تحسين) مستمر تحت ردود فعل متكررة، بينما تتدهور [أداء](/tag/أداء) [التطبيقات](/tag/التطبيقات) التي تستخدم TVM IR، مما يدل على أن [تحسين](/tag/تحسين) النواة ينخفض عندما تشتغل [النماذج](/tag/النماذج) بلغة ذات كثافة منخفضة.
بالإجمال، تشير هذه النتائج إلى أن [نماذج [اللغات](/tag/اللغات) الضخمة](/tag/[نماذج](/tag/نماذج)-[اللغات](/tag/اللغات)-الضخمة) تعتمد بشكل كبير على [المعرفة](/tag/المعرفة) المسبقة بدلاً من ردود الفعل المقدمة أو الهيكل الوكالي، مما يطرح تساؤلات مهمة حول فعالية هذه الأنظمة في بيئات متغيرة.
ما رأيكم في هذا التطور المُثير؟ شاركونا في [التعليقات](/tag/التعليقات)!
هل تعتمد النماذج اللغوية على المعرفة السابقة أم على البحث؟ دراسة جديدة في تحسين كود البرمجة
تسعى دراسة حديثة لفهم أداء نماذج اللغات الضخمة (LLMs) في تحسين كود البرمجة. تشير النتائج إلى أن المعرفة المسبقة تلعب دوراً رئيسياً أكثر من ردود الفعل المباشرة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
