في حداثة علمية لافتة، أظهرت دراسة جديدة تأثير تصفية المعرفة (Knowledge Distillation) في النماذج اللغوية الصغيرة، حيث يكشف البحث عن نتائج غير متناظرة في الأداء. تم إجراء التجارب على مهام تتضمن مفاهيم واضحة وغامضة، مما يمكن الباحثين من ملاحظة كيف يؤثر تعليم نموذج أكبر على نماذج أصغر.

عندما يتعلق الأمر بالمهام غير الواضحة (BBQ-disambig)، أوضحت النتائج أن تصفية المعرفة من نموذج المعلم Gemma-2-9B أسفرت عن تحسين نسبة الاحتفاظ بالسياق، حيث انخفضت نسبة الأخطاء من 44% إلى 24% في النموذج الأكثر تحيزاً (SmolLM2-1.7B-Instruct).

بينما زادت الأمور تعقيدًا في المهام الغامضة (BBQ-ambig)، حيث أدت نفس التقنية إلى فقدان التوازن في إعدادات الرفض، مما تسبب في أن 15% من العناصر التي كان ينبغي أن تمتنع عن الإجابة بدلاً من ذلك تلقت إجابات متحيزة، رغم الحفاظ على معدل الرفض العام. إن هذا التغير يكشف عن فجوة كبيرة في أداء النماذج، ويعتبر تحذيراً من خطر التحيز غير المتوقع.

على مدار البحث، تم تطبيق نفس منهجية الدراسة على عائلة جديدة من الطلاب (OLMo-2-1B-Instruct)، حيث رصد الباحثون كذلك فقدان 8% من الأصوات، مع 89% من إجابات الأصوات المملوءة تعود إلى تحيزات جديدة. يظهر التقييم الإحصائي أن هاذين التأثيرين ناتجان عن آليات مختلفة، مما يؤكد أهمية فحص النماذج بشكل شامل.

لمعالجة هذه القضايا، اقترح الباحثون بروتوكولاً ثلاثة الخطوات يسمى "تشخيص التوازن لكل حالة" (Per-Condition Calibration Diagnosis أو PCCD) يهدف إلى تقييم هياكل الرفض، الاحتفاظ بالسياق، والحفاظ على القدرات.

إن هذه الدراسات تسلط الضوء على أهمية التوجه نحو معايير دقيقة لفهم التحيزات في نماذج الذكاء الاصطناعي، وتدعونا إلى التفكير في كيفية تحسين تدريب هذه النماذج بطريقة مستدامة ومتكاملة. هل تعتقد أن هناك طرقًا أخرى لتعزيز أداء هذه النماذج؟ شاركونا في التعليقات.