GrandGuard: ثورة في أمان تفاعل الذكاء الاصطناعي مع كبار السن!

مع تزايد اعتماد [كبار السن](/tag/كبار-السن) على [روبوتات المحادثة](/tag/[روبوتات](/tag/روبوتات)-[المحادثة](/tag/المحادثة)) المدعومة بنماذج لغوية ضخمة ([LLMs](/tag/llms)) لتقديم الرفقة والمساعدة، برزت [مخاوف](/tag/مخاوف) حول [سلامة](/tag/سلامة) تفاعلهم مع هذه [التكنولوجيا](/tag/التكنولوجيا). وتمثل هذه المخاوف خطرًا خاصًا، حيث يواجه [كبار السن](/tag/كبار-السن) [تحديات](/tag/تحديات) تتعلق بالعزلة الاجتماعية، وانخفاض المهارات الرقمية، بالإضافة إلى تدهور القدرات الإدراكية.

وعلى الرغم من أن [المعايير](/tag/المعايير) الحالية للسلامة تستهدف [المخاطر](/tag/المخاطر) العامة، إلا أنها تتجاهل [المخاطر](/tag/المخاطر) المحددة التي قد يتعرض لها [كبار السن](/tag/كبار-السن). على سبيل المثال، قد يكون طلب مثل "كيفية إصلاح ضوء السقف بمفردك في الظلام" آمنًا لمعظم المستخدمين، إلا أنه يمثل في الواقع خطر سقوط خطير لكبار السن الذين يعانون من محدودية [الحركة](/tag/الحركة).

لذا، أطلق [باحثون](/tag/باحثون) نظام GrandGuard، الإطار الأول من نوعه لتقييم وتخفيف [المخاطر](/tag/المخاطر) [السياقية](/tag/السياقية) الخاصة بكبار السن أثناء تفاعلهم مع [نماذج الذكاء الاصطناعي](/tag/[نماذج](/tag/نماذج)-الذكاء-الاصطناعي). يتضمن هذا النظام تصنيفًا من ثلاثة مستويات يحتوي على 50 نوعًا من [المخاطر](/tag/المخاطر) المحددة بدقة، تغطي مجالات [الرفاهية](/tag/الرفاهية) العقلية، المالية، الطبية، السمية والخصوصية. يستند هذا [التصنيف](/tag/التصنيف) إلى حوادث حقيقية، ومناقشات مجتمعية، وتحليل [دراسات](/tag/دراسات) أصحاب المصالح.

[عبر](/tag/عبر) هذا التصنيف، تم [تطوير](/tag/تطوير) معيار يحتوي على 10,404 طلبات وإجابات مصنفة، حيث أظهرت النتائج أن العديد من [نماذج](/tag/نماذج) [LLM](/tag/llm) الرائدة تتعامل بشكل خاطئ مع [المخاطر](/tag/المخاطر) الخاصة بكبار السن في أكثر من 50٪ من الحالات. وللتقليل من هذه الإخفاقات، تم استخدام آليتين للحماية: نظام [Llama](/tag/llama)-Guard-3 المُخصص وسياسة [gpt-oss-safeguard](/tag/gpt-oss-safeguard)-20b، حيث حققت كل منهما [دقة](/tag/دقة) تصل إلى 96.2٪ و90.9٪ على التوالي في الكشف عن الطلبات غير الآمنة.

يعد GrandGuard خطوة رائدة [نحو](/tag/نحو) [تطوير](/tag/تطوير) [أنظمة](/tag/أنظمة) [ذكاء اصطناعي](/tag/ذكاء-اصطناعي) تعمل على تجاوز [المعايير](/tag/المعايير) العامة للسلامة، لدعم الفئات المتقدمة في العمر وتلبية احتياجاتهم الخاصة.