في عالم الذكاء الاصطناعي، تتعرض نماذج اللغة الكبيرة (Large Language Models) لمخاطر متزايدة تتعلق بالأمان، خصوصاً عندما يتعلق الأمر بخدمات الأدوات الخارجية. في دراسة جديدة، تم استكشاف مفهوم "حالة الفوترة المستمرة" (Persistent Billable State) والذي يُمكن المهاجمين من استغلال البيانات الغير موثوقة وتحويلها إلى فواتير متكررة دون الحاجة إلى أذونات.

تعتبر نماذج LLM متعددة الخطوات التي تعتمد على أدوات خارجية عرضة لهذا النوع من الهجمات، حيث يتم استغلال الذاكرة المحتفظ بها عبر الجولات. وقد تمكن الباحثون من تحديد ستة مسارات لهجمات حرمان المحفظة (Denial-of-Wallet Attacks) وابتكار أداة اختبار شاملة تُعرف باسم DOW-BENCH، والتي خضعت لتجارب متعددة.

خلال 243 تجربة، أظهرت بيانات الاستخدام أن متوسط التكلفة لكل جلسة زادت بشكل كبير، حيث تصل إحصاءات الاحتفاظ بالبيانات نحو 21.2% - 35.9% من زيادة التكاليف المحتملة. كما نجحت أساليب ضغط البيانات في تسع من المهام المعتمدة على التاريخ، في حين كانت النتائج غير مبشرة في حالات الحذف.

لضمان حماية فعالة، قدم الباحثون مزيجاً من التحولات التاريخية الحتمية مع أربعة ثوابت على جانب المضيف للحفاظ على السيطرة على هذا المجال المخاطر. أسفرت نتائج هذه الدراسة عن وضع "حالة الفوترة المستمرة" ككائن أمان رئيسي، مع أهمية التحكم فيه قبل إعادة الإدخال.

إذاً، كيف يمكننا كأفراد ومتخصصين في هذا المجال مواجهة هذه التحديات الجديدة؟ ما الخطوات التي يمكن اتخاذها لضمان أمان البيانات؟ شاركونا أفكاركم في التعليقات!