تسعى الأبحاث الحديثة إلى فهم تأثير استخدام نماذج اللغات الضخمة (LLMs) في سياقات خطيرة. فقد أظهرت الدراسات أن التعليمات اللغوية التي تبدو آمنة يمكن أن تُسفر عن عواقب وخيمة على مستوى الواقع. في هذا السياق، قام باحثون بتفصيل المخاطر الجسدية، مظهرين كيف يمكن أن تختلف عن مخاطر المحتوى النصي.

تستند الدراسة إلى تحليل نطاقات الحالة المخفية وتطبيقات الاختبارات العشوائية، مما أثبت أن المخاطر الجسدية (PD) ومخاطر المحتوى (CD) تمثل إشارات منفصلة في مخرجات نماذج تُستخدم على نطاق واسع مثل Qwen2.5-3B وPhi-3.5، مما يفتح أبوابًا جديدة لفهم العلاقات بين النصوص والسياقات الواقعية.

بناءً على دراسة الفصل بين PD وCD، تم تقديم أداة جديدة تسمى PRISM، وهي نموذج بسيط تستخدم لتوقع المخاطر الفيزيائية عند التعامل مع الإدخالات النصية. وقد أظهرت PRISM دقة عالية تتجاوز 86% في تحديد المخاطر، مما يجعلها أداة واعدة لاختبار أمان الأنظمة.

علاوة على ذلك، تم تطوير منصة جديدة تُعرف باسم PhysicalSafetyBench-1K (PSB-1K) تحتوي على 1000 مجموعة خطر من دون كلمات تشير إلى أذى مباشر، مما يسمح ببناء نماذج فعالة لاكتشاف المخاطر الجسدية وراء النصوص.

ختامًا، يُظهر البحث أهمية استخدام الأساليب الأكثر تقدمًا لفهم أبعاد المخاطر المرتبطة بالنماذج اللغوية، موضحًا أنه لا يكفي التركيز على النصوص فقط، بل ينبغي استكشاف الأمن الجسدي بشكل أعمق. هل تعتقد أن هذه الاستنتاجات ستؤثر على تطوير نماذج الذكاء الاصطناعي في المستقبل؟ شاركونا آرائكم في التعليقات.