في عالم الذكاء الاصطناعي، تعتبر النماذج اللغوية الضخمة (Large Language Models) من الأدوات القوية، ولكنها ليست خالية من العيوب، حيث تعاني هذه النماذج أحياناً من ظاهرة تُعرف بالهلاوس. ووفقاً لدراسة جديدة، فإن الطرق التقليدية مثل تطوير العواطف (prompt engineering) وتحسين النماذج ليست كافية لتعديل المعرفة الداخلية لهذه النماذج أو تحقيق التعميم عبر المجالات المختلفة.

تدعو هذه الدراسة الجديدة للاهتمام بـالتشفير التكيفي الموجه نحو الخبراء (EAACD)، والذي يؤسس على اختلافات الطبقات في نماذج الخبراء (Mixture-of-Experts - MoE). وعلى الرغم من أن الدراسات السابقة تناولت نماذج مثل GPT، إلا أن هذه الدراسة تركز على نموذج الخبراء كبديل.

للتحقق من وجود اختلافات طبقية في نماذج الخبراء (MoE)، أجريت دراسات تجريبية تُظهر أن هذه الاختلافات لا تتواجد في النماذج التي تمتلك خبراء مشتركين. ومع ذلك، أظهرت النتائج أن الطبقات العليا في نماذج متعددة من MoE تمتاز بنمط تفعيل مُميز بين المخرجات الحقائق وغير الحقائق.

استناداً إلى هذه النتائج، تم اقتراح تقنية EAACD، التي تستخدم اختلافات الخبراء في الطبقات العليا لخفض الهلاوس في مهام الأسئلة والأجوبة. يُقسم EAACD الخبراء في الطبقات العليا إلى مجموعة ذات موثوقية عالية وتقوم بعمل تنبيهات لمساعدتها على تحسين دقة النتائج. يُعزز EAACD التباين بين مجموعة الموثوقية العالية ومجموعات الموثوقية المنخفضة لتقديم مرجع سلبي أقوى.

أثبتت EAACD كفاءتها من خلال تفوقها على المعايير الأخرى في أربعة مجموعات بيانات، مما يفتح آفاقاً جديدة لكيفية تحسين مهام الذكاء الاصطناعي.