في عالم الذكاء الاصطناعي، قد يبدو أن تطوير نماذج قوية يعتمد فقط على دقتها، ولكن دراسة جديدة تنبهنا إلى نقطة مهمة تتعلق بمفهوم "تحرير المعرفة المتتابع" (Sequential Knowledge Editing). تشير النتائج إلى أن نماذج مثل Qwen2.5-7B-Instruct تستطيع الخضوع لعدد كبير من التعديلات دون فقدان دقة نتائجها، لكن ما يحدث خلف الكواليس قد يكون أكثر عمقاً وتعقيداً.

تم تقييم عمليات تحرير المعرفة من خلال عدة جوانب، مثل تغيير الحقائق المُعدلة، ومدى دقة الإجابات المعاد صياغتها، واستقرار الردود غير المرتبطة. ومع ذلك، فحتى إذا نجح النموذج في كل هذه النقاط، فإن قدرته على تقييم المعلومات الأصلية تُظهر تدهوراً كبيراً بعد إجراء التعديلات المتتابعة.

فعلى الرغم من أن الدقة الثنائية (MMLU) بقيت ثابتة إلى حد كبير، إلا أن القدرة التفسيرية للنموذج شهدت تراجعاً ملحوظاً. بعد 1,000 تعديل متتابع، انخفض مستوى المعرفة المحفوظة بنسبة 36%، مما يعني أن النموذج أصبح أقل فعالية في اختيار الوثائق الموثوقة من تلك غير الموثوقة.

إحدى النتائج الثانوية المثيرة للاهتمام كانت أن بعض نماذج الذكاء الاصطناعي انهارت إلى مستوى عشوائي من الدقة بعد تنفيذ هذا النوع من التعديلات. بينما تبقى نجاحات التحرير في هذه النماذج عند نسبة 100%، فإن القدرة على اختيار المعلومات تتأثر بشكل كبير.

هذا يشير إلى أن تقييمات تحرير المعرفة التي لا تأخذ في الحسبان القدرة الحقيقية للنموذج قد تغفل عن جوانب مهمة في الأداء، مما يسقط نموذج الذكاء الاصطناعي في فخ تحديد المعلومات الخاطئة.

في النهاية، يتطلب الأمر تفكيرًا عميقًا فيما يتعلق بكيفية تحسين نماذج الذكاء الاصطناعي وتقييم أدائها بشكل أكثر شمولية. كيف تظنون أن تؤثر هذه النتائج على مستقبل الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!