في عصر الذكاء الاصطناعي، تعد نماذج اللغات الضخمة (Large Language Models) من أكثر التقنيات تقدمًا. ومع زيادة الطلب عليها، أصبح نظام التسعير القائم على الاستخدام لكل رمز هو الهيكل الأساسي الذي يُحاسب المستخدمين. ومع ذلك، تكشف دراسة حديثة عن ثغرات خطيرة في هذا النظام، حيث استطاع بعض المزودين استغلالها لاستنزاف أموال المستخدمين بطرق غير دقيقة.
تشير الدراسة إلى ما يسمى ب "تناقض الثقة"، حيث يصعب على المدققين التحقق من دقة الأعداد المقدمة من المزودين بسبب سرية النماذج واستخدام الرموز. يُظهر ذلك أن المدققين يعتمدون على أدلة يقدمها المزود، وهي أدلة قد تكون متلاعبة.
تستعرض النتائج أن مزودًا عاديًا يمكن أن يضخم عدد الرموز المفوترة بمقدار 1,469% في ظل ظروف معينة، مما يحول فاتورة سليمة بقيمة 100 دولار إلى فاتورة زائفة تزيد إلى 1,569 دولارًا بنفس الاستعلام. والغريب في الأمر، حتى مع توافر سلسلة الاستدلال الكاملة، فإن الغموض في التخصيص يسمح بتضخيم يبلغ 50.85% دون الكشف عن المخالفات.
كل هذه النتائج تشير إلى أن المشكلة ليست متعلقة بمدقق معين، بل في أي عملية تدقيق تستقي أدلتها من الجهة التي يتم تدقيقها. لاستعادة التسعير الصادق، يتطلب الأمر وجود آليات تحقق تربط الأعداد المبلغ عنها بأدلة خارج السيطرة، مثل التحقق من التنفيذ الموثوق، الإثباتات التشفيرية للاستدلال، أو إعادة التنفيذ الخارجي من طرف ثالث.
زيادة أسعار الرموز: كيف يمكن لمزودي الخدمات غير الأمينين استغلال المستخدمين في استخدام نماذج اللغات الضخمة!
تعاني آلية تسعير الاستخدام لكل رمز في نماذج اللغات الضخمة من ثغرات تجعل المستخدمين عرضة للغش. الدراسة تكشف كيف يمكن لمزودي الخدمات تضخيم عدد الرموز المفوترة بشكل غير مطلع.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
