في عالم الذكاء الاصطناعي، تشكل الأنظمة التكيفية (Self-Adaptive Systems) ركيزة أساسية لتطوير تقنيات أكثر ذكاءً وفاعلية. ومع ذلك، كشفت دراسة حديثة نشرت على منصة arXiv بعنوان "Approved Too Late: Verdict Staleness in LLM-Guarded Self-Adaptive Systems" عن مخاطر كبيرة تتمثل في القرارات المتأخرة التي تصدرها نماذج اللغة الكبيرة (LLMs).

تتناول البحث مشكلة استخدام القرارات التي قد تكون صحيحة عند التحقق منها لكنها تتأخر عندما يتعلق الأمر بالتنفيذ، مما ينجم عنه خطر يُعرف باسم "وقت تحقق إلى وقت استخدام (TOCTOU)". قام الباحثون بدراسة حيوية القرارات، وتحديدًا ما إذا كانت تلك القرارات لا تزال صالحة عند الاستخدام.

تسليط الضوء على ثلاث كميات تُجيب عن أسئلة مختلفة:
1. ***تغير الحكم على جميع المتقدمين في إطار الإعادة المحددة للعمل.***
2. ***انقضاء صلاحية الموافقة التي أُعطيت من قبل خوارزميات الذكاء عند تتبع الأنظمة المغلقة.***
3. ***عدم صلاحية الحكم بناءً على الوقت المستخدم.***

وجدت الدراسة أن معدلات تغيير الحكم تتراوح بين 5.3% إلى 48.4% عند استخدام الاستراتيجيات المحددة. والأسوأ من ذلك، فقد أظهرت مراجعة على أربعة قضاة من نماذج اللغة الكبيرة وجود نسبة عدم صلاحية في جميع تدفقات الموافقة.

لكن الباحثين لم يقفوا عند هذا الحد، بل قدموا حلاً مبتكرًا يُعرف باسم ***Freshness-Bounded Shield (FBS)***، والذي يُقدر أفق صلاحية كل موافقة بناءً على هوامش الأمان والتقلبات الأخيرة في الخصائص، دون الحاجة إلى نموذج ديناميات نباتي. أظهرت النتائج قدرة (FBS) على تقليل معدلات انقضاء صلاحية الموافقة من 3.4-24.7% إلى 0-1.8% وذلك في نفس الظروف.

إن هذا التطور ليس مجرد تحليل تقني، بل يمكن أن يُحدث تحولاً كبيرًا في كيفية اعتماد أنظمة الذكاء الاصطناعي، الأمر الذي يفتح المجال أمام مزيد من الابتكار في هذا المجال. كيف يمكن لشركات الذكاء الاصطناعي اعتماد هذه الحلول لتحسين أنظمتها؟

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.