اليومdreaming: سرقة مهارات الوكلاء الخفية من خلال تفاعل المهام الغامضة
في خطوة جديدة، قدم باحثون أسلوبًا مبتكرًا يمكن من خلاله سرقة مهارات الوكلاء عبر تفاعل المهام دون الحاجة لكشفها. هذا الأسلوب يستهدف استغلال التفاعل اليومي للوصول إلى معلومات مخفية.
في الوقت الذي تزداد فيه المخاوف بشأن أمان المعلومات في عالم الذكاء الاصطناعي، كشف الباحثون عن أسلوب جديد يحمل اسم "اليومdreaming" (Daydreaming) يتيح سرقة المهارات الخفية للوكلاء بطريقة غير تقليدية. يهدف هذا الأسلوب إلى التفاعل مع المهام الغامضة لاستخراج مهارات من ملفات سرية دون الحاجة لكشفها بشكل صريح. يعتمد الأسلوب على تنفيذ مهام تم تصميمها بشكل مدروس، حيث يتم اختبار السلوكيات الفردية للوكيل باستخدام وكلاء ظل يتحكم بهم المهاجم لتحديد التصميم الأمثل. من خلال هذه العملية، تُصنّف ثلاث مستويات تهديد متداخلة، ولكن التركيز يكون على المستوى النهائي الذي يُعرف باسم "الإخراج" (Output)، حيث يتمكن المهاجم من رؤية الردود النهائية والملفات المسترجعة. تشير النتائج إلى أن هذه التقنية الجديدة تمكنت من استرجاع 86.8% من قدرة المهارات الأصلية، متفوقة على تقنيات سابقة بمقدار أربع مرات تقريبًا. يُظهر هذا التقدم أنه على الرغم من جهود الحماية الحالية، فإن إخفاء ملفات المهارة أو تصفية المعلومات لا يكفي لإحباط محاولات إعادة البناء الوظيفي من خلال الاستخدام العادي. هل تعتقد أن هذه التقنية ستحدث ثورة في كيفية حماية المهارات الذكية؟ شاركونا آرائكم في التعليقات!
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
