في خطوة مثيرة في مجال الذكاء الاصطناعي، أعلن باحثون عن تطوير طريقة جديدة لتتبع أصول نماذج اللغة، وهي تحد كبير في عالم النماذج اللغوية. تم تقديم مفهوم "بصمة مساحة الرموز المعايرة (TokenPrint)"، الذي يعتمد على تحليل البيانات المشتقة من فيزياء النموذج نفسه.

تكمن التحديات في تحديد مصدر النموذج الأساسي والبيانات المستخدمة في تدريبه. تأتي هذه المعضلة من عدم كفاية المعلومات الواردة في البيانات الوصفية وحدها. وفي هذا السياق، اقترح الباحثون استخدام بصمة مبتكرة تعتمد على استعلامات معرفية معينة، حيث تساهم في الوصول إلى صورة أوضح عن علاقة النماذج المختلفة.

قام فريق البحث بتجربة هذه الطريقة على 32 نموذجاً مفتوح الوزن من تسع عائلات مختلفة، حيث أظهرت النتائج أن هناك "سلم تشابه" يتبع عن كثب درجة العلاقة بين النماذج. حيث سجلت النماذج المدربة على بيانات متطابقة نسبة 0.48 من القيمة الخام، مما يوضح أن الاعتماد على البيانات المتشابهة قد يكون مؤشراً قوياً على التقارب بين النماذج، حتى قبل الوصول إلى كفاءة المهام القابلة للقياس.

كما أظهرت النتائج أن بصمة النموذج تحتفظ باستقرار عالٍ حتى تحت تكميم البيانات، وكان هناك تشابه بقيمة 0.92 تحت حالة int8 و0.82-0.85 تحت حالة int4. هذا الاكتشاف يجعل من الممكن فهم وتحليل أصول نماذج اللغة بطريقة جديدة ومبتكرة، ويفتح آفاقاً جديدة للبحث والتطوير في هذا المجال.

إذا كنت مهتمًا بمجال النماذج اللغوية والتطورات الحديثة، فهذه الدراسة تمثل نقطة انطلاق مثيرة لفهم كيفية تتبع أصول هذه النماذج.

ما هي توقعاتك حول إمكانيات هذا البحث في تغيير طريقة استخدامنا لنماذج اللغة؟ شاركونا آراءكم في التعليقات!