تتجه الأنظار مؤخرًا نحو نماذج الأساس الجدولية (Tabular Foundation Models) نظرًا لقدرتها الفائقة في التعامل مع المهام ذات الموارد المحدودة والقيود المتعلقة بالخصوصية، حيث تتيح تعلم المهام الجديدة دون الحاجة لمزيد من التدريب. لكن، السؤال الذي يطرح نفسه هو: هل تعكس هذه النماذج فعلاً العمق المطلوب؟

لقد استعرضت دراسة حديثة نموذجًا يتكون من عدة كتل تحولات (transformer blocks)، مما يزيد من متطلبات الذاكرة والحوسبة، وعلى النقيض، تبين أن البدائل التقليدية مثل أشجار القرار المعززة بالتدرج (Gradient-Boosted Decision Trees) لا تزال تحتفظ بكفائتها وتعمل بكفاءة على المعالجات المركزية (CPUs). يطرح هذا الوضع تساؤلاً جوهريًا حول إمكانية تبسيط النماذج الجدولية من خلال إزالة التكرارات المعمارية دون التأثير على الأداء.

تم تقديم مترجم خطي (affine translator) يغني عن مجموعة من الكتل، حيث أظهرت نتائج تقييم ثمانية نماذج متطورة على 171 مجموعة بيانات تصنيفية أن التحولات الجدولية تمثل بوضوح حالة زيادة المكونات. إذ أن تقليل عدد الكتل بمقدار النصف لا يؤثر على الأداء بحيث يتعرض حسب المتوسط لتكلفة متواضعة.

مع وجود نموذج TabFM الأكثر كفاءة، يمكن أن نحقق أداءً متفوقًا مقارنة بالنماذج الأخرى وبأقل متطلبات للذاكرة. بفضل هذا التحسين، يمكننا تقليل عدد المعلمات إلى 1.5 مليار وزيادة سرعة استدلال وحدات معالجة الرسوميات بمقدار 6 مرات دون المساس بقيمة AUROC، مما يجعل العملية أكثر فعالية.

إن تحقيق التوازن بين العمق والكفاءة هو محور تركيز الدراسات الحالية، وهو ما يعد بإمكانيات واعدة في مجال نماذج الذكاء الاصطناعي وتحسين أدائها في مختلف المهام. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.