في عالم الذكاء الاصطناعي، يمثل التسعير أحد أبرز التطبيقات العملية التي تعتمد على نماذج اللغة الضخمة (LLMs). ومع ذلك، توصل الباحثون إلى هجوم جديد يُعرف باسم حقن إشارات السوق (Market Signal Injection) والذي يُظهر كيف يمكن التلاعب بهذه النماذج من خلال طرق عرض بيانات السوق. تشير الدراسات إلى أن هذه النماذج تستطيع أن تستجيب بشكل مختلف اعتمادًا على كيفية تقديم البيانات، رغم ثبات القيم الرقمية.
تمت مراجعة تسعة نماذج مفتوحة في سياقات أسواق ثنائية وثلاثية، فضلًا عن نماذج خاصة أخرى. وقد أثبتت النتائج أن الهجمات القائمة على المشاعر تُحدث تحولات سلوكية كبيرة تؤثر بدورها على الشركات الأخرى وتغير الأرباح وفائض المستهلكين. ويتبين أن مستوى القابلية للتأثر يختلف بين عائلات النماذج، حيث لا تكون النماذج الأكبر بالضرورة أكثر قدرة على المقاومة.
عبر استخدام أدوات تحكم نصية محايدة وعوامل قائمة على القواعد، حصل الباحثون على نتائج تدعم فكرة أن عرض البيانات هو نقطة ضعف محتملة لنماذج التسعير. كما توصلت الدراسة إلى أن تقنية توحيد المدخلات تنجح في إزالة الهجمات القائمة على المشاعر، بينما يوفر ربط حدود القرار المدعوم بتوجيهات للمخرجات بعض التخفيف تحت الظروف الهجومية المجربة.
إن هذه النتائج تأكيد واضح على ضرورة فهم التأثيرات السلوكية المترتبة على كيفية تقديم البيانات، مما يحفز على تطوير دفاعات تأخذ في الاعتبار التفاعلات بين الشركات والموارد الذكية.
حقائق جديدة حول خدع تسعير نماذج الذكاء الاصطناعي: كيف تؤثر أساليب عرض البيانات على السوق
تقديم هجوم جديد يُعرف باسم حقن إشارات السوق (MSI) يكشف كيفية تأثير طرق عرض بيانات السوق على ردود أفعال نماذج التسعير القائمة على الذكاء الاصطناعي. النتائج تبرز أهمية معالجة البيانات في عالم الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
