في عالم الذكاء الاصطناعي المتطور، تعتبر أنظمة التوصية القائمة على نماذج اللغات الضخمة (LLM-Based Conversational Recommender Systems) من العناصر الأساسية التي تسعى لتحقيق التوازن بين الدقة في التوصية ورضا المستخدم. ولكن، ماذا لو كانت هذه التوصيات تضر بالمستخدمين بسبب تجاهل حساسيات الأمان الشخصية؟

تستعرض الورقة البحثية الجديدة "SafeCRS" هذا التحدي الهام، حيث تسلط الضوء على ثغرات في أنظمة التوصية الحالية التي قد تؤدي إلى تأثيرات سلبية على المستخدمين نتيجة عدم مراعاة حساسياتهم الفردية مثل تجارب الصدمة السابقة أو تاريخ الانتحار أو الرهاب.

لتجاوز هذه التحديات، قدم الباحثون "SafeRec"، مجموعة بيانات جديدة تهدف إلى تقييم مخاطر الأمان في أنظمة التوصية. ويمثل "SafeCRS" إطار عمل متكامل لتحسين التجارب، حيث يجمع بين تقنية "التدريب الآمن تحت إشراف" (Safe Supervised Fine-Tuning) وتقنية "تحسين سياسة مكافأة منفصلة" (Safe Group reward-Decoupled Normalization Policy Optimization).

أظهرت التجارب أن SafeCRS تقلل معدلات انتهاكات الأمان بنسبة تصل إلى 96.5% مقارنة بأفضل مقاييس جودة التوصية، مع الحفاظ على جودة توصيّات تنافسية.

ما رأيكم في هذه المبادرة لزيادة الأمان في تجربة المستخدم؟ هل تتوقعون أن تؤثر على كيفية تصميم أنظمة التوصية في المستقبل؟ شاركونا آراءكم!