مع تزايد اعتماد كبار السن على روبوتات المحادثة المدعومة بنماذج لغوية ضخمة (LLMs) لتقديم الرفقة والمساعدة، برزت مخاوف حول سلامة تفاعلهم مع هذه التكنولوجيا. وتمثل هذه المخاوف خطرًا خاصًا، حيث يواجه كبار السن تحديات تتعلق بالعزلة الاجتماعية، وانخفاض المهارات الرقمية، بالإضافة إلى تدهور القدرات الإدراكية.

وعلى الرغم من أن المعايير الحالية للسلامة تستهدف المخاطر العامة، إلا أنها تتجاهل المخاطر المحددة التي قد يتعرض لها كبار السن. على سبيل المثال، قد يكون طلب مثل "كيفية إصلاح ضوء السقف بمفردك في الظلام" آمنًا لمعظم المستخدمين، إلا أنه يمثل في الواقع خطر سقوط خطير لكبار السن الذين يعانون من محدودية الحركة.

لذا، أطلق باحثون نظام GrandGuard، الإطار الأول من نوعه لتقييم وتخفيف المخاطر السياقية الخاصة بكبار السن أثناء تفاعلهم مع نماذج الذكاء الاصطناعي. يتضمن هذا النظام تصنيفًا من ثلاثة مستويات يحتوي على 50 نوعًا من المخاطر المحددة بدقة، تغطي مجالات الرفاهية العقلية، المالية، الطبية، السمية والخصوصية. يستند هذا التصنيف إلى حوادث حقيقية، ومناقشات مجتمعية، وتحليل دراسات أصحاب المصالح.

عبر هذا التصنيف، تم تطوير معيار يحتوي على 10,404 طلبات وإجابات مصنفة، حيث أظهرت النتائج أن العديد من نماذج LLM الرائدة تتعامل بشكل خاطئ مع المخاطر الخاصة بكبار السن في أكثر من 50٪ من الحالات. وللتقليل من هذه الإخفاقات، تم استخدام آليتين للحماية: نظام Llama-Guard-3 المُخصص وسياسة gpt-oss-safeguard-20b، حيث حققت كل منهما دقة تصل إلى 96.2٪ و90.9٪ على التوالي في الكشف عن الطلبات غير الآمنة.

يعد GrandGuard خطوة رائدة نحو تطوير أنظمة ذكاء اصطناعي تعمل على تجاوز المعايير العامة للسلامة، لدعم الفئات المتقدمة في العمر وتلبية احتياجاتهم الخاصة.