في عالم الذكاء الاصطناعي، تطورت نماذج اللغات الضخمة (Large Language Models) بشكل ملحوظ، مما أثار تساؤلات حول ما إذا كانت النصوص القابلة للقراءة البشرية لازمة لتحسين أدائها. في دراسة جديدة نُشرت على arXiv، تمت مناقشة هذا الموضوع بشكل مفصل وموثق.

تتناول الدراسة الحاجة إلى تحسين أداء النماذج من خلال تقديم تقنية جديدة تدعى البيانات الاصطناعية المتوافقة مع التحديث المرغوب (Desired-Update-Aligned Synthetic Data - DASA). تعتمد هذه التقنية على ردود الفعل من نموذج مرجعي مجمد، مما يساعد على توجيه تحسين تضمينات المدخلات الاصطناعية بشكل مستمر.

تقنية DASA تستهدف تحديثات تكيفية مفيدة بدلاً من التركيز على إعادة بناء النص المصدر أو الطلاقة اللغوية. وهذا يدعو للتساؤل: هل ما زلنا بحاجة للنصوص الطبيعية لتحسين نماذج الذكاء الاصطناعي؟

الاختبارات أجريت على ستة نماذج من عائلتي لاما (Llama) وكوين (Qwen)، تراوحت من 1 مليار إلى 32 مليار معلمة، متضمنة ستة معايير تقييم تشمل المعرفة، والتفكير الرياضي، وتوليد الأكواد، والفهم الشائع. أظهرت النتائج أن DASA يمكن أن تحقق أداءً يعادل أداء البيانات الطبيعية، بل ويتفوق عليها في ثمانية سيناريوهات، مع تحقيق زيادة في السرعة تتراوح بين 3.6 إلى 4.9 مرة مقارنة بتقنية GRADMM دون زيادة كبيرة في حجم الذاكرة المستخدمة.

بذلك، يمكن أن يُعتبر DASA خطوة ثورية في تحسين نماذج اللغات الضخمة دون الاعتماد على تنسيقات نصية تقليدية، مما يعيد تشكيل الطريقة التي نفكر بها في تطوير الذكاء الاصطناعي.

ما رأيكم في هذه الدراسة؟ هل تعتقدون أن النصوص البشرية ستظل مهمة في تحسين النماذج المستقبلية؟ شاركونا في التعليقات.