في عالم الذكاء الاصطناعي، حيث تتسابق الشركات لتقديم أحدث الابتكارات، تظهر تحديات جديدة تتعلق بالقدرة على تشغيل تقنيات متقدمة مثل الجيل المعزز للبحث (RAG) على الأجهزة المحمولة. يقدم البحث الحديث حول كيفية اختيار أجزاء خفيفة (Lightweight Chunk Selection) حلاً مبتكرًا يساعد في تحسين جودة المعلومات المسترجعة أثناء تقليل المتطلبات الحاسوبية والذاكرة.
تجمع المنهجية الجديدة بين ثلاثة مصادر ميزات متكاملة: الحالة المخفية للأسئلة التي تمثل نية الاستعلام من جانب نماذج اللغة الكبيرة (LLM)، وإشارات الخبراء المستمدة من توجيه Mixture of Experts (MoE) التي تلتقط هيكل التوجيه الداخلي للجهة المولدة، واحتضان الشظايا المسترجعة التي تحافظ على هندسة الأدلة على جانب المرشحين.
عبر استخدام خوارزمية مدمجة متعددة الطبقات، يتم تحويل هذه الميزات إلى نموذج دليل ضمن مساحة تجميع الشظايا، بحيث يتم اختيار المرشح الأكثر توافقًا بناءً على تشابه كوساين.
لضمان التقييم الدقيق، تم إنشاء تسميات دقة الشظايا الدلالية بناءً على كفاية الأدلة بدلاً من مجرد احتواء سلسلة الإجابة. أظهرت التجارب أن المحدد المقترح يحسن دائمًا اختيار الأدلة من الرتبة الأولى على الأسس المحمولة المتاحة، بمعدل تحسن متوسط يبلغ 2.5%.
توحي هذه النتائج بأن استخدام تمثيلات استعلام من جانب نماذج اللغة الكبيرة ومعلومات التوجيه MoE، ومواءمتها مع احتضان مرشحي الاسترجاع، يمثل استراتيجية فعالة وذات كفاءة في المعلمات لاختيار شظايا RAG المناسبة للاستخدام على الأجهزة المحمولة.
اختيار أجزاء خفيفة لتحسين الجيل المعزز للبحث على الأجهزة المحمولة: ثورة في الذكاء الاصطناعي!
تواجه تقنيات الجيل المعزز للبحث (RAG) تحديات جديدة في نقل المعرفة للأجهزة المحمولة. دراسة جديدة تقدم حلاً مبتكرًا لاختيار الأجزاء المطلوبة بكفاءة، مما يعزز من جودة المعلومات المسترجعة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
