في عالم الذكاء الاصطناعي، تلعب نماذج اللغات الضخمة (LLMs) دورًا حاسمًا في التعامل مع البيانات والنصوص. ومع ذلك، فإن استخدام تقنيات الكم (Quantization) ورفع درجات حرارة العينات (Sampling Temperature) يعكس تحديًا كبيرًا. هذه الدراسة الجديدة، التي تعتمد على تحليل عاملي لعدد من النماذج، تستعرض كيف تؤثر هذه الخيارات على سلامة النماذج.

أجريت الدراسة على تسعة نماذج مُعدّة وفقًا لست عائلات مختلفة، مع ثلاثة درجات دقة (FP16، GPTQ INT8، AWQ INT4) وست درجات حرارة تتراوح بين 0 و1.0، مما أدى إلى 161 تكوينًا مختلفًا و322,000 استجابة تم تقييمها.

ومن النتائج المثيرة للاهتمام، تبين أن تقنيات الكم لا تؤدي عادةً إلى تآكل السلامة العامة، مع وجود استثناءات محدودة مثل نموذج SmolLM3-3B الذي سجل ارتفاعًا في نجاح الهجمات. بينما كانت الأخطار أكبر بوضوح عندما يرتفع مستوى حرارة العينات، مما يؤدي إلى زيادة عدم استقرار القرارات في النماذج الضعيفة.

تسلط الدراسة الضوء على عدم وجود "عقوبة مزدوجة"، مما يعني أن تأثير الكم ودرجة حرارة العينات لا يتراكم بطريقة سلبية على نحو مستمر. بناءً على هذه النتائج، توصي الدراسة باستخدام تقنيتي INT4 وINT8 بصورة معتدلة مع النماذج المتوافقة بشدة، مع ضرورة تقويم الاستقرار المتعدد العينات عند استخدام درجات حرارة مرتفعة.

في الختام، تعكس هذه الدراسة أهمية فهم ديناميكيات استخدام التقنيات المختلفة لضمان سلامة نماذج اللغات الضخمة. ما رأيكم في هذا التطور؟ شاركونا في التعليقات!