في عالم الذكاء الاصطناعي، تعد القدرة على معالجة السياقات الطويلة أمرًا حيويًا لنماذج اللغة الضخمة (Large Language Models). ولكن، كان هناك تحدٍ كبير يتمثل في عوائق الأداء الناتجة عن العمليات الحسابية المعقدة. هنا يأتي نظام الاسترجاع الهرمي (Hierarchical Hash Retrieval - HHR) ليقدم حلاً فعالًا لهذه المشكلة.
تعمل تقنية HHR على تحسين استرجاع البيانات من خلال استخدام أسلوب فعال لتشفير الاستعلامات والمفاتيح في رموز ثنائية، مما يتيح لها استخدام مسافة هامنج (Hamming distance) لاختيار المفاتيح المناسبة. لكن التحدي يكمن في تباين المعلومات، حيث يؤدي تحويل الرموز الثنائية إلى فقدان معلومات المغزى، مما ينتج عنه استرجاعات خاطئة.
يعالج نظام HHR هذه العيوب بخطوات دقيقة تعزز دقة الاسترجاع. المرحلة الأولى تُعرف باسم توجيه المفاتيح المعتمد على الهندسة (Geometry-Aware Key Routing - GKR)، والتي تقوم بتوزيع المعلومات بشكل أكثر تميزًا، مما يسمح بتقليل المفاتيح ذات البيانات المنخفضة. المرحلة الثانية، وهي إسقاط الرموز المتعلم (Learned Hash Projection - LHP)، تعمل على محاذاة المسافة بين الرموز مع ترتيب الأهمية الحقيقي للمفاتيح.
من خلال الدمج بين GKR وLHP، يضمن نظام HHR أن عمليات الاسترجاع تكون أكثر دقة وأقل عرضة للأخطاء الإيجابية والإيجابية الزائفة، مما يُحسن بشكل كبير تجربة المستخدم.
الاختبارات التي جرت على نماذج مختلفة مثل Llama-3.1-8B-Instruct أظهرت تقدمًا واضحًا، حيث حقق النظام تحسينًا في الأداء بمقدار 1.10 نقطة في تقييم LongBench، بالإضافة إلى زيادة سرعة فك التشفير بمعدل يصل إلى 3.30 مرة.
إليك رابط الكود المتاح للجمهور عبر GitHub: [https://github.com/lianjunl13-sudo/HHR].
ثورة في استرجاع البيانات: النظام الجديد HHR لتعزيز أداء نماذج اللغة الضخمة
النظام الجديد HHR يقدّم حلاً مبتكرًا لتحسين استرجاع البيانات في نماذج اللغة الضخمة. من خلال تقنيات متقدمة، يتمكن النظام من تجاوز العقبات التي تواجه أداء الذكاء الاصطناعي.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
