في عالم تعلم الآلة، تعتبر نماذج البيانات الجدولية (Tabular Foundation Models - TFMs) من الأدوات الأساسية التي تُستخدم لفهم كيفية تفاعل البيانات. وقد أظهرت الأبحاث الحديثة وجود "فخ التوحيد" في تصميم هذه النماذج، مما يثير تساؤلات كبيرة حول فهمنا لها.

في بحثنا الجديد، نستكشف كيف أن الانحدار الخطي (Linear Regression) والتنعيم القائم على النماذج (Kernel Smoothing) يوفران رؤى واضحة حول التعلم السياقي (In-Context Learning). إذ تحدد الميزات (Features) الأوزان المخصصة لكل تسمية سياقية، ولكن يبقى السؤال: هل تنجح هذه الحسابات الثابتة في الوصف الدقيق لنماذج البيانات الجدولية المدربة مسبقًا؟

من خلال التجارب، وجدنا أن النماذج العامة تقوم بمواءمة (Standardize) التصنيفات قبل رؤيتها، وهو ما يمثل فخًا؛ حيث أن العوائد العادية تعكس سلوكيات خارج مجموعة التصنيفات الموحدة. هذا يعني أن النموذج يمكن أن يظهر غير خطي حتى عندما تتفق كل التنبؤات وفقًا لخريطة ثابتة.

اقتُرح علينا توفير شهادتين مخصصتين تعتمد على التنبؤات عند علامات موحدة، مما يسمح لنا برفض تفسيرات مختلفة مثل التنبؤ ذو الأوزان الثابتة والمجموعات المستقلة من التحويلات غير الخطية للتسميات. من خلال تقييم خمسة نماذج عامة، تأكدنا أن تغيير تسمية سياقية واحدة يمكن أن يؤثر على كيفية تأثير علامات أخرى على التنبؤ. وسمينا هذا السلوك "المعالجة المشتركة"، حيث يظهر ذلك أكثر مع تدريب النماذج.

تُبرز هذه الاكتشافات الحاجة إلى نماذج TFM تشمل كيف تؤثر التسميات السياقية على تأثير الأمثلة الفردية، مما يفتح آفاقًا جديدة في الفهم والتطوير.