في عالم الذكاء الاصطناعي (AI)، تعتبر حوكمة التقنية قضية حيوية تتطلب اهتماماً عالمياً. يشير بحث جديد إلى أن التحقق من عمليات الحوسبة في الذكاء الاصطناعي يمكن أن يكون من خلال استخدام القنوات المادية التي تترك أثراً يمكن مراقبته.

تعتبر وحدات المعالجة الرسومية (GPUs)، مثل NVIDIA H200، الأساس لعمليات الذكاء الاصطناعي، حيث تترك أي نشاط تنفذه أثراً مادياً يمكن تتبعه. في هذه الدراسة، أظهر الباحثون أنه يمكن لمراقب خارجي تحديد نوع العبء العملي القائم على GPU من خلال قياس استهلاك الطاقة.

خلال التجربة، تم تسجيل 930 أثرًا مدته خمس ثوانٍ عند تردد يبلغ حوالي 10 ميجاهيرتز، تغطي 17 عائلة من نماذج اللغات الكبيرة (LLMs) بالإضافة إلى 25 عبء عمل غير متعلق بالذكاء الاصطناعي. تمكّن الباحثون من الفصل بين عمليات التدريب والاستدلال والعمليات غير المرتبطة بالذكاء الاصطناعي بدقة تصل إلى 97% وبدرجة F1 متوسطة تبلغ 0.955.

أحد الجوانب الفريدة من هذه الدراسة هو اختبار استراتيجيات هجوم مختلفة تُستخدم لتعديل العبء التدريبي ليظهر كاستدلال. أظهرت النتائج أن العوامل المضادة المدربة كان بإمكانها الكشف عن العمليات التدريبية بنسبة 99% تقريبًا من الوقت.

تعطي هذه الابتكارات رؤى مبدئية حول كيفية مراقبة نشاطات الذكاء الاصطناعي وتوفير قاعدة بيانات لتطوير أنظمة كشف أقوى. يلقي هذا البحث الضوء على التحديات والفرص الجديدة في مجال حوكمة الذكاء الاصطناعي، مما يمهّد الطريق نحو مستقبل أكثر شفافية.

ما رأيكم في هذه التقنية الجديدة لمراقبة عمليات الذكاء الاصطناعي؟ شاركونا أفكاركم في التعليقات!