في عالم يتزايد فيه الاعتماد على الذكاء الاصطناعي، يظهر تحدٍ جديد يتمثل في كيفية فهم النصوص الطويلة والمعلومات المتعددة. يتطلب ذلك من نماذج اللغة الضخمة (LLMs) أن تمتلك القدرة على إجراء استنتاجات دقيقة بناءً على وثائق مطولة، محادثات، أو حتى أكواد. لكن، غالبًا ما تكون الأدلة التي تتعلق بالمهمة المطلوبة نادرة ومشتتة بين محتوى غير ذي صلة وكثير من البيانات المكررة.
نموذج 'Highlight-Then-Summarize' (H2S) يمثل الحل الأمثل، حيث يعتمد على نموذج جديد يكشف أولاً عن الأدلة المعنية والمتعلقة بالسؤال، ثم يدمجها في ملخص مضغوط قبل الوصول إلى الإجابة النهائية. لتحفيز هذه السلوكيات، تم تصميم مجموعة بيانات 'H2S-Dataset' التي تضم 6647 مثالًا من 11 عائلة مرجعية، بطول سياقات متوسط قدره 43.9 ألف رمز.
بالإضافة إلى ذلك، نقدم نموذج 'H2S-RL' والذي يمنح مكافآت على مستوى العملية لاختيار الأدلة وبناء الملخصات، مما يعزز من دقة الإجابات النهائية. من خلال تقييم أداء هذه الطريقة عبر اختبار 'H2S-Bench'، الذي يضم سبعة مهام مختصة بالسياقات الطويلة، حقق نموذج H2S-14B نتائج مبهرة؛ إذ حصل على متوسط درجة 32.60، متفوقًا على نموذج Qwen3.8-27B بفارق 10.17 نقطة.
الأكثر إثارة هو أن H2S-14B حقق أعلى درجة جودة للأدلة والملخصات، محتفظًا بـ97.1% من أدائه في ميزانية 16 ألف رمز بينما يعمل فقط في إطار ميزانية 4 آلاف رمز. تشير هذه النتائج إلى أن اختيار الأدلة ودمجها بشكل صريح يحسن من قدرتنا على التعامل مع المعلومات الطويلة بينما يتيح توليد محتوى أكثر تركيزًا.
تقنية جديدة ثورية لتحسين فهم السياقات الطويلة باستخدام الذكاء الاصطناعي!
طرحت دراسة جديدة نموذج 'Highlight-Then-Summarize' الذي يقوم بتحديد الأدلة المهمة قبل تلخيصها، مما يعزز من كفاءة نماذج اللغة الضخمة. النتائج أكدت تفوقه في معالجة المحتوى الطويل مقارنة بالنماذج الأخرى.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
