في عالم الذكاء الاصطناعي المتطور، لا يزال فهم آلية عمل نماذج اللغة الكبيرة (Large Language Models) يعد تحدياً كبيراً. فعلينا أن نسأل: كيف تتشكل الأفكار والمفاهيم داخل هذه الأنظمة المعقدة؟

تقدم دراسة جديدة توضح كيف يمكن استخدام هندسة لاجير (Laguerre Geometry) لتفسير هذه الظواهر. بدلاً من تمثيل مفهوم ما كنقطة واحدة أو اتجاه خطي، يمكن اعتبار المفهوم منطقةً خاصة تسمى خليّة لاجير-فورونوي (Laguerre-Voronoi cell) أو اتحاد بين الخلايا. هذا المفهوم يعطينا أداة قوية لتحديد وقياس وفصل المفاهيم بدقة.

تتعمق الدراسة لتكشف أن بناء التراكيب المفهومية بشكل أكثر دقة، مثل الشمولية والهرمية، يمكن أن يظهر بشكل طبيعي من خلال أوزان لاجير. من هنا، تم إدخال هذه الهندسة داخل نماذج التحول (transformer)، مما أدى إلى تفكيك كل طبقة إلى مشغلات خطية جزئية. كُشف أن المسار الخفي لكل رمز يتنظم بواسطة آليتين مترابطتين: شجرة ثابتة من التدفق الخطي الذاتي المستقل، ونقل ديناميكي ينقل المسار عبر الأشجار عندما تتم تفعيل الانتباه بين الرموز.

تقدم هذه الدراسة تقنية جديدة تُعرف باسم العدسة الهندسية (Geometric Lens)، التي تمكن باحثي الذكاء الاصطناعي من قراءة المفهوم الدقيق الذي يحملها المتجه الخفي في أي طبقة دون الحاجة إلى تدريب إضافي. بالإضافة إلى ذلك، تم تطوير مشفر تلقائي لاجير (Laguerre Autoencoder) الذي يقدم رسم بياني ثنائي الأبعاد يوضح كل من هندسة القرار والمسار الكامل لتفكير النموذج في عرض واحد.

الأهم من ذلك، توضح النتائج أن العدسة الهندسية لا تقتصر فقط على الشرح، بل توفر أيضاً قابلية التنفيذ عن طريق استعادة الرمز الواقعي الصحيح عند طلب نموذج ما بمعلومات سياقية متداخلة. هذه الاكتشافات الواعدة تجعلنا نتساءل: كيف يمكن أن تؤثر على طريقة تدريب واستخدام نماذج الذكاء الاصطناعي في المستقبل؟

تجدون الكود الخاص بالدراسة متاحاً على GitHub، مما يتيح المزيد من الإمكانيات لاستكشاف هذه الهندسة الرائعة!