في عصر تتسارع فيه التطورات التكنولوجية، يصبح الذكاء الاصطناعي أداة رئيسية في تطوير مرافقي المشاعر (Emotional Companions) الذين تهدف مهمتهم الأساسية إلى توفير الدعم العاطفي للمستخدمين. لكن، هل يمكن أن تتعارض متطلبات الأمان مع قدرة هذه الأنظمة على بناء علاقات إنسانية فعالة؟ هذا هو السؤال الذي يناقشه بحث جديد يقدم بروتوكول SLIP (Staged Layers of Intervention Protocol).

يتيح بروتوكول SLIP تصميم تدخلات متدرجة تتراوح بين عدم التدخل، والتدخل اللين، والتدخل القاسي، استنادًا إلى مؤشرات نوعية منظمة تشمل شدة التأثير (affect intensity) وديناميكية السرد (narrative dynamism). بالإضافة إلى ذلك، تم تقديم نظام التصنيف ETHICS (Emergent Taxonomy for Human-AI Interaction Context Signals) الذي يعتمد على الإشارات بدلاً من التصنيفات التقليدية.

في دراسة شملت تجربة صغيرة، تم تقييم فعالية SLIP عبر تطبيقه في بيئة حقيقية مما أسفر عن عدم وجود حالات إيجابية كاذبة (0%) في تمثيل الشخصيات السليمة. ورغم النتائج الإيجابية، أظهرت التجارب أن وجود طاقة عاطفية مرتفعة لثمانية أيام متتالية لم يستدعي أي تدخل، مما يسلط الضوء على الحدود التي تواجه مبدأ "عدم التحميل" عند مقارنتها بالسلامة.

عبر اختبار ثالث للنماذج، استطاعت الزيادة في قدرات النماذج تحسين الكشف عن الحالات الحرجة من 0/8 إلى 6/8 مع الحفاظ على عدم وجود حالات إيجابية كاذبة في النموذج الأكبر.

تساعد هذه النتائج في تحديد الاتجاهات التصميمية التي يمكن من خلالها التعامل مع توازن الأمان والعلاقة في التقنية العاطفية، مما يفتح المجال لمزيد من الأبحاث والنقاشات حول كيفية تحسين مرافقي المشاعر في المستقبل.