تشهد التقنيات الحديثة في استنتاج نماذج اللغة الكبيرة (LLM) تطورًا مستمرًا، ويُعد أحد المجالات المثيرة للاهتمام هو استخدام طرق تخطي الطبقات لزيادة كفاءة الأداء. في دراسة جديدة، تم إجراء تحليل شامل على طريقتين متبعتين في إجراء تخطي الطبقات، وهما ConfLayers وSWIFT.

الطريقة الأولى، ConfLayers، تستخدم منهجية تخطي مبنية على الثقة، حيث تقيم أي طبقات من طبقات التحويل (Transformers) يجب تنفيذها بناءً على ثقة النموذج بالإجابات. بينما SWIFT، التي تم تقديمها من قبل Xia وآخرون في عام 2024، تستند إلى مفهوم الاستنتاج الذاتي المسبق.

أظهر التحليل، الذي شمل نموذجين بحجمين مختلفين، فرقًا واضحًا في الأداء بين الطريقتين. أظهرت SWIFT تفوقًا في الدقة في ثلاثة من أصل أربعة نماذج، بينما كانت نتائج ConfLayers متواضعة، خاصة في رابع نموذج حيث عانت من انخفاض كبير في الدقة.

عند فصل التكلفة الناتجة عن البحث عبر الإنترنت عن تكلفة الاستنتاج البحت، تبين أن سرعة استنتاج SWIFT تتفوق على ConfLayers بنسبة تتراوح بين 5-21%. وعندما تم تحليل طريقتين إضافيتين لتوجيه التخطي، وهما LayerRoute وLayerDrop، كانت النتائج تشير إلى زيادة متواضعة في السرعة، لكنها لم ترقَ إلى مستوى الدقة الذي حققته الطرق الدورية.

تلك النتائج تفتح أبوابًا جديدة لفهم ديناميكيات الأداء في نماذج اللغة الكبيرة وتعزز أهمية التطور المستمر في هذا المجال. هل أنتم مستعدون لاستكشاف المزيد حول كيف يمكن لهذه التقنيات أن تحول طريقة عمل نماذج الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!