في عصر تزايد انتشار وكالات الذكاء الاصطناعي المعتمدة على نماذج اللغة، يبرز سؤال جوهري: كيف يمكننا تقييم موثوقية هذه الوكالات قريباً من الواقع؟ إن القواعد التقليدية لتقييم الهوية، مثل الأنظمة المصرفية وتقييمات السمعة، تبدو غير كافية في هذا السياق.
في بحث حديث، تم تسليط الضوء على أن هذه الوكالات تعاني من "تفكك هووي" (Dissociative Identity)، مما يعني أنها ليست مرتبطة بشخصية ثابتة. هذا التفكك يتجلى في شكل تجمعات نُظمية تتضمن نماذج أساسية، استجابة أنظمة، سياسات الوصول للأدوات، وذاكرة خارجية.
على عكس البشر، حيث يتأسس مفهوم السمعة على سلوك متواصل وحساسية للعقوبات، تفتقر هذه الوكالات للأصول الضرورية لبناء هوية ثابتة. فعدم القدرة على ضمان سلوك متوقع أو موثوق ينزع عنها الثقة التي تعد من أهم سمات التعامل في المجتمعات.
لذلك، يقترح الباحثون ضرورة الانتقال إلى آليات جديدة تعتمد على المراقبة والتفاعل الفوري بدلاً من الأنظمة التقليدية المعتمدة على الهوية، مما يعزز من إمكانية تقييم التصرفات بدقة أكبر. إن التحدي هنا هو تطوير بروتوكولات سلوكية تسمح للمستخدمين بالتفاعل بشكل آمن مع هذه الوكالات.
في نهاية المطاف، هل نحن مستعدون لإعادة التفكير في كيفية تقييم الثقة في عالم الذكاء الاصطناعي المتغير؟ تفاعلوا معنا في التعليقات.