في زمن تتزايد فيه التهديدات السيبرانية، تظل رسائل التصيد (Phishing) واحدة من أكثر أساليب الهجوم استخداماً، مستغلة بذلك ضعف المستخدمين لتسليم البرمجيات الخبيثة أو الوصول غير المصرح به إلى المعلومات الحساسة. ولتطوير تقنيات الكشف عن هذه الرسائل، تم تقديم نموذج جديد يعتمد على تقنيات الذكاء الاصطناعي، يُدعى DistilBERT، وهو نموذج Transformer خفيف الوزن يُعزز من فعالية الكشف بفضل فهمه العميق للغة وسياقاتها.

ومع ذلك، يظل الكثير من هذه النماذج في فئة الصناديق السوداء (black box)، حيث يعجز المستخدمون عن فهم كيفية اتخاذ القرارات. للتصدي لذلك، تسعى الدراسة الحالية إلى دمج ثلاث طرق معروفة في مجال الذكاء الاصطناعي القابل للتفسير (XAI) وهي LIME (التفسيرات المحلية القابلة للتفسير) وSHAP (التفسيرات الإضافية لشابلي) وIG (التدرجات المدمجة). من خلال هذه التقنيات، يتمكن المستخدمون من فهم نتائج النموذج بشكل أفضل، مما يعزز من ثقتهم في ذكاء الآلة.

كما تم اعتماد أساليب التدريب المستندة إلى التهديدات لتحسين مقاومة النموذج ضد الضوضاء والتلاعب. أثبتت التجارب أن هذا النموذج المتقدم يتفوق على نموذج DistilBERT التقليدي، مما يعكس تقدمًا ملحوظًا في دقة الكشف ومتانة النموذج.

بفضل هذا التوجه، دوماً ما نشجع على تعزيز الشفافية في تكنولوجيا الذكاء الاصطناعي، وفقاً لما يتطلبه العصر الرقمي. فما هو رأيك في أهمية الشفافية في نماذج الذكاء الاصطناعي؟ شاركونا في التعليقات.