في عالم الذكاء الاصطناعي (AI)، تكتسب مفاهيم التحقق والمراقبة أهمية متزايدة، خصوصاً مع تصاعد المخاوف حول الاستخدام غير العادل لهذه التكنولوجيا. يدور البحث الجديد حول كيفية استخدام قياسات الطاقة كوسيلة للتحقق من مدى الالتزام بالاتفاقيات المتعلقة بحسابات الذكاء الاصطناعي. لتحقيق ذلك، تتطلب المعاهدات الحديثة وجود جهة خارجية لتأكيد مقدار الحسابات التي تمت فعلاً، مما يؤدي إلى استخدام قياسات تناظرية مثل سحب الطاقة (power draw) كقناة للتأكد من عملية التحقق.

ولكن، هل ستكون هذه القياسات فعالة في مواجهة الأطراف التي قد تحاول التلاعب بالنظام؟ الباحثون قاموا بتطوير نموذج رياضي يحدد الحد الأقصى للحسابات الخفية التي يمكن أن ينكرها سحب الطاقة، والذي عُرف بالرمز β. وقد أظهرت النتائج الأولية أن قياسات الطاقة، على الرغم من كونها مبشرة، لا تقيد الحسابات بشكل قوي. على سبيل المثال، أظهرت القياسات باستخدام بطاقات NVIDIA A100 أن β يمكن أن يصل إلى 1.16 في أسوأ الحالات، فيما يمكن أن تخفي استراتيجيات الطاقة المعادية ما يصل إلى 0.41 من العمليات الحسابية.

ومع ذلك، تعطي القيود الإضافية، مثل القدرة على إعادة تنفيذ الأعمال المعلنة عند نقطة تشغيل معينة، فرصة للجهة المراقبة لتقليل قيمة β إلى 0.059 في أقصى حالات التقييد. هذا يسلط الضوء على التقديرات الكمية للدور الذي يمكن أن تلعبه القياسات التناظرية في التحقق من الحسابات.

من الواضح أن هناك حاجة ملحة لتطوير وسائل تحقق أكثر فعالية في مجالات الذكاء الاصطناعي لضمان عدم استخدام هذه التقنية في مجالات غير أخلاقية أو ضارة.

ما رأيكم في هذا التطور؟ شاركونا في التعليقات.