تستمر تقنيات الذكاء الاصطناعي في إحداث ثورة في عالم البرمجيات، ولكن مع كل تقدم تأتي مخاطر جديدة تهدد الأمان السيبراني. في دراسة جديدة، تمحورت الأبحاث حول "اختطاف قرارات برامج Jev" (Jev Program Decision Hijacking - JPDH)، وهي ثغرة يمكن أن يستغلها المتسللون لتغيير كيفية اتخاذ البرامج للقرارات.

تستند هذه الدراسة إلى النماذج الأولية مثل "System One"، التي تعمل على تحويل السياقات الدلالية المفتوحة إلى أحكام مُهيكلة تؤثر مباشرة على تشغيل البرنامج. تكمن المشكلة أن هذه النماذج تعرض التطبيقات لخطر جديد، حيث يمكن للجهات الخبيثة الاستفادة من السياقات المسيطر عليها لتوجيه قرارات البرامج نحو النتائج المرغوبة.

اعتمد الباحثون في دراستهم على إطار JevProbe، وهو نظام آلي لتقييم المخاطر المحتملة. كشف هذا الإطار عن أن 81.5% من 228 تطبيقاً شهيراً تم تحليلها قد تعرضت لما يُعرف بـ "تقلب القرارات". والأدهى أن 98.6% من هذه التقلبات قد تؤدي إلى عواقب سلبية مؤثرة على الأمن السيبراني.

علاوة على ذلك، أظهرت قياسات JevProbe تحسناً كبيراً في معدل تقلب القرارات بنسبة 50.4% مقارنة بأقوى الأدوات المتاحة. يُظهر البحث بوضوح أن تمويل الدفاعات الحالية غير كافٍ، مما يستدعي المطورين إلى اتخاذ إجراءات عاجلة.

في خطوة ملحوظة، تم الكشف عن نتائج الدراسة لمسؤولي تطبيقات Jev بانتظار ردود فعلهم. لمزيد من التفاصيل، يمكنكم الاطلاع على كود JevProbe ومجموعة بيانات JevProbeBench المتاحة على GitHub.

ما رأيكم في هذه الممارسات وكيف يمكن للمطورين تعزيز أمان تطبيقاتهم ضد مثل هذه الهجمات؟ شاركونا آرائكم في التعليقات!