في عصر الذكاء الاصطناعي اليوم، بات من الشائع بشكل متزايد تجميع التنبؤات من نماذج اللغات الضخمة (LLMs) متعددة، لكل منها خبرة في تخصص معين أو وصول إلى أدوات وبيانات خاصة. ومع ذلك، يتطلب ذلك في البيئات اللامركزية تحديد أوزان التجميع دون الوصول إلى المعلومات الخاصة بالنماذج، ويجب أن تظل هذه الأوزان متينة ضد التصريحات الاستراتيجية.
تقدم الدراسة التي أعلنت عنها مؤخرًا آلية جديدة تُعرف باسم WALLA (وهي اختصار لـ "آليات المراهنة المتوافقة مع المزايا لتجميع نماذج اللغات الضخمة")، حيث يقوم كل نموذج بتقديم تنبؤ إلى جانب رهان متعلم. يتم استخدام هذه الرهانات كأوزان للتجميع، مما يسهم في تحسين أداء التنبؤات بشكل كبير.
تتمتع WALLA بعدة ميزات ترغب في تحقيقها، منها: (1) توافق الحوافز الاستراتيجية السائدة في التنبؤات، (2) توافق الرهان مع المزايا، حيث يكون الرهان المثالي متناسبًا مع ميزة الدرجات المتوقعة للنموذج، و(3) تحسين لإدارة الرهانات بشكل غير محايد، مما يوفر إمكانية التعلم اللامركزي لسياسات الرهانات دون الحاجة إلى تنبؤات مثالية.
علاوة على ذلك، تشمل الآلية نسختين مختلفتين تتعاملان مع وضوح النتائج وعدم وجود استغلال في السوق، مع الحفاظ على عجز محدود في أسوأ الحالات.
أظهرت الاختبارات التي أجريت على مقاييس الإجابة على الأسئلة والتوقعات عبر نماذج متنوعة تعمل بمعلومات خاصة، أن WALLA يحقق أداءً مشابهًا لطرق التجميع المركزية، مع الحفاظ على التعلم اللامركزي وأوزان التجميع المتوافقة مع المزايا، بالإضافة إلى الوعي بعدم اليقين والتحفيز التوافقي للتنبؤ.
آلية جديدة لتجميع تنبؤات نماذج اللغات الضخمة بطريقة لامركزية: اكتشفوا WALLA!
دراسة جديدة تقدم آلية WALLA لتجميع تنبؤات نماذج اللغات الضخمة (LLMs) بشكل لامركزي، مما يعزز دقة التنبؤ دون تعريض بيانات النماذج الخاصة للخطر. هذه الآلية تساعد في تعزيز الفعالية من خلال توافق التحفيز والقوة.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
