في عالم الذكاء الاصطناعي، تأخذ أنظمة تحويل النص إلى موسيقى (Text-to-Music) دوراً متزايد الأهمية في إبداع المحتوى الفني. ومع ذلك، يكشف بحث جديد عن تهديدات واضحة قد تؤثر على نزاهة هذه الأنظمة.

تستند أنظمة تحويل النص إلى موسيقى إلى تحسين الطلبات الغامضة من المستخدمين من خلال استخدام العناوين المستخرجة من قواعد بيانات موسيقية. ولكن، هل تساءلت يومًا عن مدى سلامة هذه الكفاءات الإبداعية؟ تشير النتائج الحديثة إلى أن القراصنة يمكنهم أن يستغلوا نقاط ضعف في هذه الأنظمة من خلال ما يُعرف بهجوم "تسميم العناوين" (Caption Poisoning).

يمكن للمهاجمين إدخال عدد قليل من العناوين المعدة بدقة في قاعدة البيانات الموسيقية، مما يؤدي إلى استرجاع عناوين خبيثة تؤثر على عملية تحسين الطلبات، وبالتالي توجيه الجيل الموسيقي بعيدًا عن ما ينوي المستخدم. والغريب أن هذه الهجمات تحدث دون التعديل على طلب المستخدم أو أنظمة الاسترجاع أو الجيل.

تستخدم هذه التقنية استراتيجية مزدوجة لتسميم العناوين، حيث تحافظ على أدوات الاسترجاع ذات المستوى العالي مع إدخال أوصاف صوتية ذات مستوى منخفض لضمان تحقيق أهداف المهاجمين بدقة.

وفي تجربة تشمل قاعدة بيانات "MusicCaps"، تم استخدام مستخرج "CLAP" وأنبوب "MusicGen"، مما أدى إلى نتائج ملوثة تحركت بشكل ملحوظ تجاه أهداف المهاجمين، بينما لا تزال متوافقة بدرجة معقولة مع الطلبات الأصلية من المستخدم. تكشف هذه الدراسات عن مخاطر حقيقية تؤثر على نزاهة الأنظمة الإبداعية المدعومة بالذكاء الاصطناعي.

**ماذا يعني هذا لقطاع الإبداع وعالم التقنية؟** إذا كنتم تعتقدون أن هذه التهديدات غير موجودة، فكروا مرة أخرى.إن الصيانة والتأكد من سلامة قواعد البيانات الفنية يجب أن تصبح أولوية قصوى للحفاظ على نزاهة الفن المبتكر. ما هي آراؤكم حول هذا التطور الجديد؟ شاركونا في التعليقات.