في خطوة رائدة نحو تحسين تطبيقات الذكاء الاصطناعي في مجال الهندسة الكهربائية، تم الإعلان عن إنشاء مجموعة بيانات جديدة تهدف إلى تدريب نماذج اللغة الكبيرة (Large Language Models) على فهم الدوائر التناظرية. تعتمد هذه الورقة البحثية على جمع كتب دراسية عالية الجودة وتحليلها إلى وحدات تعليمية دقيقة، مما أدى إلى إنشاء مجموعة من الأسئلة والأجوبة المنهجية ضمن إطار عمل متعدد الوكلاء.

يبلغ حجم مجموعة البيانات الناتجة 7.26 مليون رمز من البيانات غير المصنفة للتدريب المستمر و112.65 مليون رمز من البيانات المصنفة للتدريب الفائق. وقد تم تخصيص تقنيات التدريب لتشمل اختيار النموذج الأولي، وتطوير نماذج التدريب، وتقنيات التقييد. وجد البحث أن نماذج التعليم تُعتبر نقاط انطلاق مناسبة لبدء التدريب، وأن نموذج التدريب المرتكز على الإشراف يقدم فوائد محدودة مقارنة بالتدريب المستمر بسبب عدم توازن توزيع البيانات.

كما أظهرت التجارب أن استخدام تقنيات التقييد مثل تباعد KL يمكن أن يُفضي إلى زيادة بنسبة 2.71 نقطة مئوية في الدقة. وبتطبيق نموذج 32 مليار معلم، حقق العلماء 84.59% دقة على مؤشر AMSBench-TQA، مما يدل على تحسن قدره 15.67 نقطة مئوية عن النموذج الأولي. كما أظهر النموذج المدرب كفاءة في مهام تصميم المكبرات التشغيلية استنادًا إلى إطار Atelier.

هذا التطور يمثل قفزة نوعية في دمج الذكاء الاصطناعي مع الهندسة، مما يفتح آفاقاً جديدة في التعليم والبحث في هذا المجال. ما رأيكم في هذا التطور؟ شاركونا في التعليقات.