أثارت وحدات الذكاء الاصطناعي offline (Offline AI Modules) ضجة كبيرة في عالم التقنيات اليوم، حيث تقدم رؤية جديدة لأنظمة الذكاء الاصطناعي التي تعتمد على الصوت، تعمل بكفاءة تامة دون الحاجة للاتصال بالإنترنت. هذا الابتكار مصمم خصيصاً لخدمة المجتمعات الناطقة باللغات الأفريقية، حيث تعتبر اللغة الكلامية وسيلة التفاعل الأساسية، وغالباً ما تكون الاتصالات عبر الإنترنت غير موثوقة أو حتى غير موجودة.

تتضمن هذه المبادرة ثلاثة مكونات أساسية: هيكلية قائمة على الصوت تعمل offline، قائمة مرجعية منخفضة التكلفة لمكونات الأجهزة، ومسار يقنيق قابل للتكرار لتقنيات التركيز الكمي (quantization) وتقييم الأداء لنماذج اللغة المزودة بالتعليمات، والتي تتراوح ما بين 2 إلى 5 مليارات معلمة.

تمت مراجعة هذه الأنظمة من خلال أول تقييم شامل للأداء عبر فئتين من الأجهزة: NVIDIA Jetson Orin NX (TierB) و Raspberry Pi5 (TierA). وقد تم تقييم ثلاثة نماذج مزودة بالتعليمات عبر أربعة تنسيقات للتركيز الكمي، لتحديد مقاييس النشر مثل سرعات فك الترميز، وزمن الاستجابة، واستخدام الذاكرة والطاقة، وكذلك الجودة متعددة اللغات.

أحد الاكتشافات الرئيسية هي أن التركيز الكمي Q4_K_M يمثل أفضل توازن بين الحجم والجودة للنشر عبر كلا المستويين، حيث حققت gemma-4-E2B-it سرعات فك ترميز بلغت 28.8t/s ودقة تصنيف مواضيع تصل إلى 89.2% عند استخدام Q4_K_M في TierB، بينما عملت جميع النماذج الثلاثة ضمن حدود ذاكرة 16GB في TierA.

إن هذا التطور في وحدات الذكاء الاصطناعي يعد خطوة رائدة نحو تحقيق إمكانية الوصول لاستخدام التقنيات المتقدمة في بيئات غير موثوقة، مما يفتح آفاقاً جديدة للمستخدمين في مختلف الدول الأفريقية. فهل أنتم مستعدون لاستكشاف الإمكانيات الهائلة التي يمكن أن تقدمها هذه التقنيات؟ شاركونا آراءكم في التعليقات!