عندما تصبح الدولة ساحة هجوم: حقن الدلالات في الوكلاء المدعومين بالنماذج اللغوية الكبيرة

تعتبر النماذج اللغوية الكبيرة (Large Language Models) من الإنجازات التقنية البارزة التي أظهرت قدرة ملحوظة في التعلم ضمن السياق، وتقسيم المهام، والتفكير خطوة بخطوة، وتوليد الأكواد. تقود هذه القدرات التطور التدريجي لهذه النماذج من كونها نماذج لتوليد النصوص إلى كونها قلب الوكلاء القادرين على إدراك البيئة، واستدعاء الأدوات، وتنفيذ المهام.

عادةً ما تحصل الوكلاء المدعومون بالنماذج اللغوية الكبيرة على المعلومات من مواقع الويب، والمستندات، وقواعد البيانات، أو من خلال أدوات خارجية، حيث تولد هذه النماذج تسلسلات استدعاء متوافقة مع أهداف المستخدم. ومع تكامل هذه التكنولوجيا بشكل أعمق مع الأنظمة الروبوتية، تبدأ النماذج اللغوية الكبيرة في تولي وظائف مثل فهم المهام، والتخطيط عالي المستوى، واتخاذ القرارات السلوكية.

تأخذ تقنية SayCan القدرة على التفكير في المهام من النماذج اللغوية وتدمجها مع المهارات الروبوتية. بينما تولد تقنيات Code as Policies وProgPrompt خطط المهام الروبوتية من خلال كود السياسات والتنبيه البرمجي، على التوالي. تسهم تقنية VoxPoser في استخدام النماذج اللغوية ونماذج الرؤية اللغوية لبناء خرائط ثلاثية الأبعاد لتوجيه الحركة الروبوتية.

تُعزز النماذج مثل PaLM-E وRT-2 وGR00T N1 الصلة بين اللغة، والإدراك البصري، والعمليات الروبوتية. في هذه الوكلاء المدعومين بالنماذج اللغوية الكبيرة، يتعين على النموذج أن يفهم تعليمات المستخدم، ويجمع بين حالات المشهد، وخصائص الكائنات، والعلاقات المكانية، وملاحظات التنفيذ لإكمال عملية تأصيل المهام، ومن ثم تسليم خطة العمل المتولدة إلى مكتبات المهارات أو مخططي الحركة أو وحدات التحكم للتنفيذ.

إن التطورات في هذا المجال تطرح الكثير من التساؤلات حول الأمان والموثوقية، حيث تصبح المخاطر المرتبطة بحقن الدلالات في أنظمة تكنولوجيا المعلومات واضحة.