في عالم يشهد تزايداً متسارعاً في التهديدات الرقمية، تأتي دراسة جديدة لتسلط الضوء على قدرة نماذج الذكاء الاصطناعي مثل نموذج GPT-4 في تأليف الرسائل المحتالة بطريقة قد تكون أكثر فاعلية من الكتابة البشرية. يواجه المستخدمون تحديات جديدة في صيد الاحتيال، حيث تعتبر الرسائل الشخصية المصممة خصيصاً للهدف صعبة الدفاع ضدها.

تقوم الدراسة الحديثة بتقييم أداء الرسائل النصية المرسلة عبر الهواتف المحمولة والتي يُطلق عليها "smishing"، حيث تمت مقارنتها بين رسائل أنتجها GPT-4 ورسائل أخرى كتبها طلاب مبتدئون تحت ضغوط زمنية. تم استخدام منهجية جديدة تُدعى "أسلوب تصنيف العتبة للخداع الشخصي" (Threshold Ranking Approach for Personalized Deception - TRAPD) لتحليل النتائج.

خلال التجربة، صُنف 12 رسالة من قبل المشاركين، وتمت مراقبة نواياهم في النقر على الروابط، بالإضافة إلى تقييمهم لما إذا كانت الرسالة مكتوبة بواسطة الذكاء الاصطناعي أو إنسان. أسفرت النتائج عن أن الرسائل التي أبدعها GPT-4 أعطت نية للنقر بنسبة 28% مقارنة بـ21% للرسائل المكتوبة من قبل الطلاب، على الرغم من أن الفرق ظل غير مؤكد.

وفي سياق أوسع، تشير النتائج إلى أن استخدام مطالبات بسيطة من الذكاء الاصطناعي يمكن أن ينتج رسائل شخصية قد تكون مقنعة بشكل متماثل حسب آراء المشاركين. كما وُجد أن الرسائل المتعلقة بالعمل كانت أكثر إقناعاً من الرسائل المتعلقة بالهوايات أو وسائل التواصل الاجتماعي.

عند سؤال المشاركين عن مصدر الرسالة، لم يتمكنوا من تحديد ما إذا كانت من إنتاج إنسان أم ذكاء اصطناعي بدقة تتجاوز المصادفة. لكن على الرغم من ذلك، كانت الرسائل المكتوبة من قبل الذكاء الاصطناعي قابلة للتمييز حسابياً بناءً على نصوصها.

تظهر هذه النتائج أن الذكاء الاصطناعي قد يؤدي إلى توسيع نطاق التهديدات المتعلقة بالهندسة الاجتماعية، بينما تعكس في الوقت نفسه القيمة والقيود الحالية لطريقة TRAPD. في النهاية، قد يعي مجتمع الأمان الإلكتروني الحاجة إلى تطوير استراتيجيات جديدة للتعامل مع هذا النوع من التهديدات.