في عالم البرمجة السريع التطور، تواجه نماذج البرمجة التقليدية تحديات جديدة تتعلق بفهم السياق المستودعي، حيث تحتاج إلى استيعاب المتغيرات والمكتبات الخاصة بالمشروعات المختلفة. ولتجاوز هذه العقبات، تم إدخال تقنية جديدة تُعرف بـ Code2LoRA، التي تمثل نقلة نوعية في كيفية إدخال المعرفة إلى نماذج اللغة.

تعمل Code2LoRA على تقديم محولات هجينة (hypernetwork) تقوم بتوليد مُحولات لورا (LoRA) مخصصة لكل مستودع برمجي. وعادةً ما تعتمد الطرق التقليدية على إدخال هذه المعارف من خلال مدخلات طويلة أو عبر ضبط دقيق لكل مستودع، وهو ما يمكن أن يكون مكلفًا وغير مرن في ظل التغيرات المستمرة في الشيفرات. لكن مع Code2LoRA، يتم إدخال تلك المعرفة بطريقة فعالة ودون أي تأثير إضافي في وقت الاستدلال.

يدعم Code2LoRA سيناريوهين رئيسيين: الأول هو Code2LoRA-Static، الذي يحول لقطة واحدة لمستودع إلى مُحوّل، مما يجعله مناسبًا لفهم الشيفرات الثابتة. بينما يوفر Code2LoRA-Evo مُحوّلًا مدعومًا بحالة مخفية (hidden state) يتم تحديثها مع كل تغيير في الشيفرة، مما يجعله مثاليًا لتطوير البرمجيات النشطة المستمرة.

للتحقق من قدرة Code2LoRA على المنافسة أمام تقنيات ضبط دقيقة ذات كفاءة، تم بناء منصة RepoPeftBench، وهي معيار يتضمن 604 مستودعات بايثون مع مسارين: مسار ثابت يحتوي على 40,000 مهمة تدريب و12,000 مهمة اختبار، ومسار للتطور يتضمن 215,000 مهمة تدريب قائمة على التعديلات و87,000 مهمة اختبار.

على المسار الثابت، حقق Code2LoRA-Static نسبة تطابق 63.8% عبر المستودعات و66.2% ضمن المستودع نفسه، مما يعكس كفاءة الأداء. وعلى المسار التطوري، حقق Code2LoRA-Evo نسبة تطابق 60.3% عبر المستودعات، مما يضيف 5.2 نقاط مئوية فوق المُحوّل المشترك.

للمزيد من المعلومات، يمكن العثور على كود Code2LoRA على رابط، بينما يمكن العثور على نقاط تفتيش النموذج والمجموعات التجريبية على رابط.

هل تعتقد أن هذا التطور في نماذج البرمجة سيحدث ثورة في كيفية تطوير البرمجيات؟ شاركونا آرائكم!