تشتهر تقنيات تحويل النص إلى صورة (T2I) بقدرتها على إنشاء صور استنادًا إلى الأوصاف النصية، ولكن دراسة حديثة تكشف النقاب عن أوجه القصور في تلك الأنظمة عندما يتعلق الأمر باللهجات غير القياسية. في بحثها المنشور على arXiv، قامت مجموعة من الباحثين بتحليل 23,080 تنبيه مرتبط بخمس لهجات إنجليزية مختلفة، وأكدت أن المرشحات المستخدمة في هذه الأنظمة غير قادرة على معالجة جميع اللهجات بشكل عادل، وهو ما أُطلق عليه "عقوبة اللهجة".

تظهر النتائج أن المرشحات تتفاعل بناءً على سمات لغوية ظاهرة بدلاً من النية الدلالية. فبينما يقوم نظام NSFW-T بزيادة العلميات الزائدة على اللهجات البريئة، يقوم LatentGuard بالتحذير من الصحائف السامة بشكل مفرط. مثيرًا بذلك فوارق تناسب تصل إلى 28.29 نقطة مئوية، في حين أن API للاعتدال من OpenAI يتجاهل الكثير من الحالات.

الكشف عن هذه التحيزات يشير إلى أن الأنظمة الحالية تفتقر إلى التعامل العادل مع المتحدثين باللهجات، مما يبرز أهمية التوازن في التعرض للبيانات أثناء تدريب الأنظمة. وفي محاولة لتصحيح هذا الخلل، يتعين التفكير في تقنيات مثل إعادة تدريب متوازنة لمجموعات البيانات، والتي قد تساهم في تحسين النتائج.

من المثير للدهشة أن عقوبة اللهجة تنتج من معالجة النصوص وليس من مجال معالجة الصور، مما يعكس الحاجة الملحة لتطوير خطوط أمان أكثر شمولاً. هل نحن مستعدون لمواجهة هذه التحديات في عصر الذكاء الاصطناعي؟