أصبحت تقنيات كشف النصوص المدعومة بالذكاء الاصطناعي (AI) موضوعًا مثيرًا للاهتمام في الأبحاث التكنولوجية الحديثة، حيث حققت هذه التقنيات دقة عالية في اختبارات المعايير القياسية. ولكن ما زالت تمثيلات البيانات الداخلية التي تدفع هذه التنبؤات غامضة بعض الشيء.

تستعرض دراسة جديدة كيف تلعب بعض الخلايا العصبية في نموذج BERT المجمد (BERT-base-uncased) دورًا حاسمًا في دعم كشف النصوص المدعومة بالذكاء الاصطناعي، مع استخدام معيار RAID لاختبار ستة مولدات تمتد من النماذج الأساسية إلى النماذج المعدلة وفق التعليمات.

تم تطبيق بروتوكول الاستكشاف النحيف (sparse probing) المبتكر من قِبل Gurnee وزملائه (2023) على 9,216 بُعدًا مخفيًا في نموذج BERT، التي نسميها الخلايا العصبية. وأظهرت هذه النتائج أن أقل من 1% من هذه الخلايا تلعب دورًا مستقرًا في كل مولد، وهو ما يتوافق عبر جميع التجارب والعمليات.

علاوةً على ذلك، أكد التفاعل ثنائي الاتجاه (bidirectional activation patching) على الأهمية السببية لمجموعة الخلايا التي تم تحديدها، حيث كان بإمكانها قلب التنبؤات بمعدل أعلى بكثير من المجموعات العشوائية المتساوية في الحجم. كما أظهرت التحليلات أن هذه الخلايا لديها قدرة على الاحتفاظ بدقة الكشف الأساسية في ظل ظروف معينة.

وعندما تم دراسة التحليل بين المولدات، ظهر هيكل ثنائي: حيث يتركز حوالي 30-36% من الخلايا العصبية المستقرة في الطبقة النهائية لنماذج المولدات التي تم تعديلها وفق التعليمات، بينما لم تتجاوز النماذج الأساسية الـ 14%.

تشير النتائج المهمة إلى أن الخلايا المختارة قادرة على الاحتفاظ بنسبة 86-94% من السقف الكامل لميزة الكشف باستخدام عائلات مولدات غير مألوفة، مما يعني أنه يمكن لجهاز الكشف العمل على مجموعة فرعية ثابتة دون الحاجة إلى إعادة تحديد الخلايا لكل مولد.

في ختام هذا الاستكشاف، يتضح أن فهم هذه الخلايا العصبية يمكن أن يعزز من تطوير نماذج كشف نصوص أكثر فعالية. **ما رأيكم في هذه التطورات؟ وهل تعتقدون أن الذكاء الاصطناعي سيستمر في تحسين دقته؟ شاركونا آراءكم!**