في عالم التكنولوجيا المتقدمة، تلعب نماذج اللغات الضخمة (Large Language Models) دورًا متزايد الأهمية، لكن ماذا يحدث عندما نضغط المدخلات والمخرجات التي تتعامل معها هذه النماذج؟ هذا هو سؤال الدراسة الجديدة التي تم تقديمها تحت عنوان 'Cavewoman'، والتي تقدم بروتوكول تقييم ثنائي القناة لتحليل هذا الموضوع.

تركز الدراسة على نماذج متعددة، حيث يتم قياس أدائها بناءً على دقة المهام وتكلفة المواد المرجعية مقارنةً بالمرجع غير المقيد للنموذج. على مدار التقييم، تم تحليل ثمانية نماذج على خمسة مجموعات بيانات عند خمسة مستويات تخفيض مختلفة.

تظهر النتائج أن ضغط المخرجات يمكن أن يقلل من تكاليف الاستخدام للعديد من نماذج واجهة البرمجة التطبيقية (API)، حيث سجلت النتائج تحسنًا ملحوظًا في التكاليف، وصلت إلى 3 مرات في أفضل الحالات. لكن الصورة ليست متشابهة عندما يتعلق الأمر بضغوط المدخلات، حيث تبين أنها تؤدي إلى زيادة التكاليف بدلاً من تخفيضها، مما يثير تساؤلات جدية حول استراتيجيات تحسين أداء النماذج.

بالإضافة إلى ذلك، بيّنت الدراسة أن نصوص المخرجات لم تعد تنسجم مع أداء النموذج غير المقيد، مما يشير إلى أن بعض الأجيال، رغم دقتها، انحرفت عن التوقعات الأصلية. يمكن أن يبقى هذا الانحراف قائمًا حتى مع إعادة تقييم النصوص وفقًا لطولها.

إذا كنت مهتمًا بمزيد من التفاصيل حول هذه الدراسة المثيرة، يمكنك الاطلاع على الكود والبيانات المتاحة على جيت هاب. فهل تعتقد أن ضغط المدخلات هو فعلاً الحل الأمثل؟ شاركونا آراءكم في التعليقات!