في عالم الذكاء الاصطناعي وتوصيات المستخدمين، تشتد المنافسة يومًا بعد يوم، وخصوصًا في مجالات توقع معدل النقر (Click-Through Rate) وتحليل اهتمامات المستخدمين المتغيرة. ومع ذلك، يبقى أحد أكبر التحديات هو كيفية التعامل مع تسلسلات البيانات الطويلة، والتي غالبًا ما تتضمن تحولات مفاجئة في اهتمامات المستخدمين، مما يؤدي إلى معلومات غير ذات صلة أو مضللة.

لقد أظهر تحليلنا التجريبي أن هذه الظاهرة تُعرف بظاهرة "تغيير الجلسات" ( extit{session hopping})، حيث تبقى اهتمامات المستخدمين مستقرة ضمن فترات زمنية قصيرة، لكنها تتغير بشكل كبير بين الجلسات، وقد تعود بعد عدة جلسات. لمواجهة هذه التحديات، قدمنا إطار عمل مبتكر يُسمى Mixture of Sequence (MoS)، وهو طريقة تعتمد على نموذج مختلط (Mixture-of-Experts) حيث يحقق دقة عالية في التوصيات من خلال استخراج تسلسلات ذات طابع معين ومتعددة المقاييس من بيانات المستخدمين الخام.

يعتمد نموذج MoS على آلية توجيه تركز على الموضوعات، حيث يتعلم بشكل ديناميكي المواضيع الكامنة داخل تسلسلات المستخدمين ويقوم بتنظيمها إلى تسلسلات متماسكة. تحتوي كل تسلسلة على جلسات مرتبطة بموضوع معين، مما يساعد على تصفية أي معلومات غير مناسبة أو مضللة نتيجة لتغييرات اهتمامات المستخدم. بالإضافة إلى ذلك، أدخلنا آلية دمج متعددة المقاييس، التي تستفيد من ثلاثة أنواع من الخبراء لرصد الخصائص العامة للتسلسل وسلوكيات المستخدم قصيرة المدى ونماذج المعنى الخاصة بالموضوعات.

تسمح هذه الآليات لنموذج MoS بتقديم توصيات دقيقة من زوايا متعددة ومتعددة المقاييس. وقد أظهرت النتائج التجريبية أن MoS يحقق أداءً متميزاً مقارنة بأقرانه من نماذج Mixture-of-Experts، بينما يقدم أيضًا استهلاكًا أقل من FLOPs، مما يدعم توازنًا قويًا بين الفعالية والكفاءة. لزيارة الشيفرة المصدرية، يمكنك الاطلاع عليها على [رابط الشيفرة المصدرية](https://github.com/xiaolin-cs/MoS).