في عالم التعلم العميق، أتت الابتكارات بسرعة فائقة، خاصةً في نماذج الانتشار المقنع (Masked Diffusion Models). من المعروف أن فهم التبعيات بين المتغيرات يُعد أمرًا حيويًا لكل من قابلية التفسير وكفاءة التوليد. ولكن، تواجه هذه النماذج تحديًا كبيرًا، حيث تعرض فقط توزيعات شرطية هامشية ولا تمثل بشكل مباشر التبعيات بين المتغيرات.

هنا تظهر أهمية الإطار العصبي الذي اقترحه الباحثون لتقدير المعلومات المشتركة الشرطية (Conditional Mutual Information) بين المتغيرات. يعتمد هذا الإطار على الحالات الخفية لنموذج انتشار مقنع مدرب مسبقًا، مستخدمًا المعلومات الحقيقية المستندة إلى توزيعات النموذج لمراقبة الأداء.

ما يميزه هو قدرته على التقاط المعتقدات الداخلية للنموذج حول بنية التبعية، حيث يمكنه توقع مصفوفة المعلومات المشتركة بالكامل في عملية تمرير واحدة إلى الأمام. بفضل ذلك، يُمكن للنموذج تحقيق تقليل في أوقات الاستدلال بمقدار 3-5 مرات مقارنةً بأساليب فك التشفير التسلسلي، مع الحفاظ على جودة التوليد.

تم تقييم هذا الإطار الجديد على اختبارات تشمل توليد تسلسلات سودوكو وجينات البروتين باستخدام نموذج ESM-C، حيث أسفرت الخرائط الناتجة عن المعلومات المشتركة عن استعادة القيود الهيكلية المعروفة.

إن هذا الابتكار يمثل قفزة نوعية في تحسين الأداء ودقة النماذج، فهل أنتم مستعدون لاستكشاف إمكانيات جديدة في عالم الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!