في عالم وسائل الإعلام الرقمية، تلعب أنظمة التوصية (Recommender Systems) دورًا حيويًا في توجيه المستخدمين نحو المحتويات التي تهمهم، لكنها قد تكون خطيرة عندما يتعلق الأمر بالصحة النفسية. إذ تظهر الأبحاث أن العديد من هذه الأنظمة تركز فقط على تعزيز انخراط المستخدمين، مما يؤدي إلى حبس الأفراد الأكثر عرضة للخطر في دوائر مغلقة من المحتوى الضار، مما يصعب عليهم الخروج من هذا الفخ.

ولكن، ثمة بارقة أمل جديدة في هذا المجال، تمثلت في تطوير 'RankAid'، وهي طريقة ترتيب جديدة تهدف إلى تعزيز الأمان العيادي بشكلٍ يتماشى مع الحاجة إلى تعزيز المحتوى العلاجي. يعتمد 'RankAid' على إضافة طبقة جديدة إلى النماذج الحالية، حيث يعاقب السلع المحفوفة بالمخاطر ويعزز من توافر المحتوى العلاجي وفقًا لمستوى تعرض المستخدم للخطر.

لقد تم اختبار هذا الابتكار من خلال استخدام مجموعة بيانات MovieLens 1M، حيث تم تصنيف العناصر بها وفقًا لمخاطرها السريرية وقيمتها العلاجية باستخدام نماذج اللغات الضخمة (Large Language Models). أظهرت المحاكاة أن 'RankAid' قد نجح في منع التوصيات للمحتوى الضار أثناء ذروات الأزمات، مما يساعد في إعادة تشكيل التغذية لدعم خفض الانفعالات.

بالإضافة إلى ذلك، يُظهر هذا التدخل الأمان انخفاضًا مقبولًا في مقاييس الدقة التقليدية مثل NDCG، مما يتيح للمسؤولين عن النظام ضبط شدة التدخل استنادًا إلى الإرشادات السريرية الخاصة. يبدو أن 'RankAid' قد يكون خطوة مهمة نحو تقديم تجربة أكثر أمانًا وصحة للمستخدمين، مما يفتح الأفق لسؤال مهم: هل نحن مستعدون لإحداث تغيير جذري في كيفية تعاملنا مع المعلومات في عصر التكنولوجيا؟