في عالم متسارع يمتلئ بالابتكارات، يظهر إطار العمل SmartRAG كواحد من الحلول المبتكرة لتطبيقات الذكاء الاصطناعي على الهواتف المحمولة. تضمن هذه التقنية الجديدة عدم فقدان الخصوصية مع الحفاظ على أداء مرتفع، حيث تم تصميمها لتكون فعالة في معالجة البيانات على الأجهزة المتنقلة.
يتطلب نشر نماذج اللغات الضخمة (Large Language Models) كأدوات مساعدة شخصية على أجهزة المحمول تحقيق توازن بين الخصوصية وانخفاض زمن الاستجابة وإمكانية العمل في وضع عدم الاتصال. لكن التحدي يكمن في التكلفة الحسابية العالية للنماذج الضخمة التي لا تتناسب مع ميزانيات الأجهزة المتنقلة.
تروج SmartRAG لفكرة تقسيم الذكاء الصناعي إلى أدوار وظيفية متكاملة، تتكون من أربع وحدات منسقة: الإدراك (Perception)، الذاكرة (Memory)، التركيز (Focus)، والتفكير (Thinking).
يعتبر EvoNER، هو نظام تعرف على الكيانات القابل للتعلم المستمر، القلب النابض لـ SmartRAG. يمكنه توسيع دائرة معرفته من خلال تحديثات مفعلة بواسطة المعلم، مما يمنحه القدرة على التعرف على أنواع جديدة من الكيانات دون الحاجة لإعادة تدريب النموذج الأساسي. كما يتم تخزين المعرفة المستخرجة في رسم بياني معرفي يحافظ على أصالة البيانات (MRGraph) ويتم استرجاعها عند الحاجة باستخدام أساليب متعددة مثل استكشاف الرسوم البيانية (graph traversal) والمطابقة الدلالية.
تمكن التجارب التي أجريت على أربعة معايير جودة أسئلة (TriviaQA، Natural Questions، HotpotQA، MultiHopQA) SmartRAG، باستخدام نموذج أساسي مكون من 1.7 مليار معلمة، من تحقيق أداء تنافسي في الاستدلال المتعدد الخطوات مقارنةً بنماذج تصل إلى 18 مرة أكبر منها. والأهم من ذلك، أن الأداء هذا يتم تنفيذه بالكامل على الهواتف الذكية التجارية ضمن حدود الذاكرة وزمن الاستجابة العملي.