في عالم الذكاء الاصطناعي، تتزايد الحاجة إلى أنظمة قادرة على تقديم معلومات موثوقة تستند إلى الأدلة، وهذا ما يجعل دراسة جديدة تحت عنوان "ERA: Evidence-based Reliability Alignment for Honest Retrieval-Augmented Generation" تكتسب أهمية كبيرة. في إطار تطوير نماذج توليد المعلومات المعتمدة على الاسترجاع (Retrieval-Augmented Generation - RAG)، يواجه الباحثون تحديات جمة، تتعلق بالصراعات المعرفية بين معايير البيانات الداخلية والمعلومات المسترجعة.

تظهر الأبحاث الحالية أن الأساليب المستخدمة لتقدير موثوقية هذه الأنظمة غالبًا ما تعتمد على ثقة عددية، مما يجعل من الصعب التمييز بين عدم اليقين المعرفي واللبس في البيانات. لذلك، تقدم هذه الدراسة إطار ERA الذي يهدف إلى تحسين سلوك الاحتراز في أنظمة RAG عن طريق تحويل تقدير الثقة من الاحتمالات العددية إلى توزيع أدلة واضح.

يتكون هذا الإطار من مكونين رئيسيين: أولاً، "تقييم الأدلة السياقية"، الذي يقوم بنمذجة المعرفة الداخلية والخارجية ككتل اعتقاد مستقلة باستخدام توزيع ديريشليت. ثانياً، "تقدير صراع المعرفة"، الذي يستخدم نظرية دمبستر-شايفر لقياس الت discordance الهندسية بين مصادر المعلومات بدقة. يستخدم هذان المكونان للفصل بين عدم اليقين epistemic وعدم اليقين aleatoric، مما يساعد في تعديل الأهداف المثلى بناءً على الصراعات المكتشفة.

أظهرت التجارب التي أُجريت على معايير قياسية ومجموعة بيانات مُعدّة خصيصًا أن هذا الإطار يتفوق بشكل كبير على الأساليب التقليدية، حيث يحقق توازنًا أفضل بين تغطية الإجابات وسلوك الاحتراز، مما يؤدي إلى تحسين دقة الأنظمة بشكل ملحوظ.

هل تعتقد أن هذه التقنيات ستحدث ثورة في عالم الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات.