في عالم الذكاء الاصطناعي اليوم، يعتمد أداء المساعدين الذكيين على قدرتهم على اتباع التعليمات المُعطاة لهم من قبل المستخدمين. لكن ما يثير القلق هو الافتراض الضمني بأن المستخدمين يمكنهم التعبير عن أهدافهم بوضوح وبشكل كامل، وهو ما لا يتماشى دائمًا مع الواقع.

على مدار عقود، أظهرت الأبحاث السلوكية أن الكثير من الأشخاص يتفاعلون مع أنظمة الذكاء الاصطناعي عندما تكون أهدافهم لا تزال غير واضحة أو غير مُشكلة بالكامل. في مثل هذه الحالات، يمكن أن تُعتبر المدخلات المقدمة للمساعدات الذكية تعبيرات كاملة عن النوايا، مما يؤدي إلى تفاعلات تُعرف بـ'التفاعلات الفانتازية' (Fantasia interactions).

تتطلب هذه المشكلة إعادة التفكير في أبحاث التوافق (Alignment Research)، حيث يجب على الأنظمة الذكية أن تضع في اعتبارها أن المستخدمين ليست لديهم دائمًا أفكار منطقية حول ما يحتاجون إليه. بدلاً من ذلك، ينبغي على الذكاء الاصطناعي أن يقدم الدعم الإدراكي للمستخدمين، مما يعينهم على تشكيل وتنقيح نواياهم خلال العملية.

هذا الأمر يستدعي نهجًا متعدد التخصصات combining machine learning, design خاصةً في تصميم الواجهات وعلم السلوك. من خلال دمج الأفكار المستخلصة من هذه المجالات، يمكننا فحص الآليات والفشل المرتبط بالتفاعلات الفانتازية.

وعلاوة على ذلك، ندرك أن التدخلات الحالية غير كافية، مما يجعل من الضروري وضع خطة بحث جديدة تهدف إلى تصميم وتقييم أنظمة الذكاء الاصطناعي التي تساعد البشر بشكل أفضل في التنقل بين عدم اليقين في المهام اليومية.