في عالم الذكاء الاصطناعي، يعكف الباحثون على فهم كيفية عمل نماذج التعلم العميق وكيفية تعاملها مع المفاهيم المعقدة. وقد أظهرت دراسة جديدة تكشف عن نموذج Llama-3.1-8B كيف يمكن لنموذج الذكاء الاصطناعي التفكير في المفاهيم الدورية باستخدام أساليب رياضية بسيطة.

تعتبر المفاهيم الدورية من الأمور الشائعة التي نواجهها في حياتنا اليومية، مثل تحديد ما هو الشهر الذي يأتي بعد فترة معينة. وعند معالجة سؤال مثل "ما الشهر الذي يأتي بعد ستة أشهر من أغسطس؟"، يستخدم Llama-3.1-8B جمعاً قائماً على العشرة، حيث يتم حساب 6 + أغسطس كأن تكون النتيجة 14، ويقوم النموذج لاحقاً بترجمة هذه النتيجة إلى المفهوم الدوري عبر مفهوم التحكم في الزمن.

من المثير للاهتمام أن النموذج يبني على ميزات Fourier التي لا ترتبط بمفهوم معين، مما يسمح له بفهم الجمع بطريقة أكثر مرونة، مع تحديد مجموعة نادرة من خلايا الأعصاب (MLP neurons) التي تساهم في هذه العمليات الحسابية.

تظهر هذه النتائج كيف يمكن للتفاعل بين التجريد السببي والهندسة المميزة أن يعزز فهمنا لكيفية عمل نماذج اللغات (Language Models)، وكيف يمكن أن تساهم هذه المعرفة في تحسين الأداء وخاصة في المهام التي تتطلب فهم المفاهيم الدورية.