في خطوة مثيرة في مجال الذكاء الاصطناعي، قدم باحثون تقنية جديدة تُدعى 'العينة الموجهة بواسطة الإنتروبيا' (Entropy-Guided Power Sampling or EGPS)، التي تستهدف تحسين النماذج الأساسية للغة من خلال تعزيز قدرتها على التفكير النقدي دون الحاجة لتحديث المعلمات.
التحديات السابقة كانت تتعلق ببطء وديمومة طرق العينة التقليدية مثل متروبوليس-هاستينغز (Metropolis-Hastings) التي استخدمت لعينات ماركوف، والتي كانت تُعتبر مكلفة بوقت طويل وغير فعالة. حيث تظهر مشاكل التكلفة بسبب عدم تطابق الهيكل مع توزيع الطاقة عند نقاط القرار ذات الانتروبيا العالية.
تقوم التقنية الجديدة بإعادة تقديم اقتراح من مستوى الإنتروبيا الوارد مسبقاً خلال المسار، مما يسهم في تقليل تكاليف العمليات مع التركيز على جيران الانتروبيا العالية. هذا الحل الجديد يعزز من كفاءة أخذ العينات ويعمل على تحسين النتائج إلى حد كبير.
عند اختبار EGPS على نموذج Qwen2.5-Math-7B، حقق سجل دقة مذهل في ثلاثة اختبارات على التوالي (MATH500 بنسبة 75.8%، HumanEval بنسبة 62.2%، و GPQA بنسبة 42.4%)، مع تحقيق تسريع يصل إلى 12.6 مرة مقارنةً بأسلوب متروبوليس-هاستينغز التقليدي.
هذا التطور يعد إنجازاً مثيراً في عالم الذكاء الاصطناعي، مما يبشر بمستقبل أوضح وأفضل يسهم في الارتقاء بقدرات نماذج اللغة وتقديم حلول أكثر ابتكاراً في مجالات متعددة.
ثورة في الذكاء الاصطناعي: تحسين نماذج اللغة عبر تقنية العين الفني تُفجر أسرار العينة!
تقنية جديدة تُدعى 'العينة الموجهة بواسطة الإنتروبيا' تعزز من قدرة نماذج اللغة على التحليل دون الحاجة لتحديث المعلمات. هذا التطور يحقق دقة أفضل بكثير وسرعة مذهلة في الأداء.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
