في عالم الذكاء الاصطناعي، تُعد نظم استرجاع المعلومات المعززة (RAG) واحدة من الأدوات الهامة المستخدمة في المجال القانوني، إلا أنها تواجه تحدياً كبيراً يتمثل في "الهلاوس"، وهي ظاهرة تشير إلى تقديم إجابات غير دقيقة أو مضللة. قد تُفضي هذه الهلوسات إلى نتائج وخيمة، خصوصاً عندما يتعلق الأمر بالقرارات القانونية.

وفقاً لدراسة جديدة نُشرت على منصة arXiv، تم إجراء تحليل دقيق لسلوك الهلوسات في ثمانية نظم قانونية مختلفة مستخدمة في تحليل مجموعتين قانونيتين: اللائحة العامة لحماية البيانات (GDPR) باللغة الإنجليزية، وقانون مدني وطني باللغة الفرنسية. وقد هدف الباحثون إلى فهم مدى انتشار الهلاوس وعمقها من خلال تقييم دقيق لكل من مستوى الادعاء ومعدل تقديم الإجابات.

أظهرت النتائج أن الهلوسات لا تزال موجودة بشكل واسع، حيث تتراوح النسبة بين أقل من 10% من الردود في النظم الأكثر أداءً إلى حوالي نصف الردود في أسوء الأحوال. ووجد الباحثون أيضاً أن الأسئلة التي تبنى على فرضيات خاطئة، والتي تتطلب رفض تلك الافتراضات، تساهم في ارتفاع معدلات الهلوسات خاصة في الأسئلة التي تم صياغتها يدوياً.

نحتاج جميعاً إلى الحذر عند الاعتماد على هذه النظم، والتأكد من دقتها قبل اتخاذ أي قرارات قانونية.

كيف تنظرون إلى خطورة الهلوسات في نظم الذكاء الاصطناعي بالقطاع القانوني؟ شاركونا آراءكم في التعليقات!