في عالم الذكاء الاصطناعي الحديث، تأتي التحديات الجديدة بوتيرة سريعة، وأحدثها هو البحث في ثغرات النظام الهيكلي للفهرسة في الأنظمة المساعدة مثل GraphRAG. حيث تبرز الدراسة الجديدة التي تم نشرها في arXiv حول "هجوم هوب-ديكاي" (Hop-Decayed Influence) كاستراتيجية مبتكرة تستهدف الهياكل المساعدة المستخدمة في عمليات الفهرسة.

عبر نظام GraphRAG، يتم إنشاء هياكل مساعدة مثل الملخصات الدلالية (semantic summaries) والحواف الهرمية (hierarchical edges) والدرجات المحسوبة مسبقاً، والتي تحدد كيفية prioritizing الاسترجاع أثناء استعلامات البيانات. بينما كانت الهجمات السابقة تركز فقط على المكونات على مستوى الحالة، ركزت هذه الدراسة على الهياكل على مستوى المخطط.

يقدم الباحثون مفهوم "الكائنات الهيكلية المساعدة (Auxiliary Schema-Level Entity)" كسطح هجوم جديد، ويقترحون إطار عمل جديد يُعرف بإطار 3S (semantics, structure, scoring) لاستغلال هذه النقاط الضعيفة بشكل منهجي.

ويمكن لهجوم HDI أن يحدد الأهداف ذات التأثير العالي من خلال استغلال تأثيرات الاستعلام (query-aware influence propagation)، مما يؤدي إلى فساد الهياكل المساعدة بعد الفهرسة. أظهرت النتائج التجريبية أن معدل نجاح الهجمات يصل بين 88-94%، بينما يتم تعديل 0.016% فقط من الهياكل المساعدة، مما يوضح قدرة هائلة على التأثير على العديد من الاستعلامات في وقت واحد.

مع إمكانية تجاوز دفاعات التشتت (perplexity) وإعادة الصياغة (paraphrase) بنسبة تتجاوز 99%، تكشف هذه النتائج عن ثغرات هيكلية في أنظمة GraphRAG الحالية، التي تمنح الثقة للكيانات الهيكلية المساعدة دون التحقق في وقت التشغيل، مما يمثل نقطة عمياء قد تؤدي إلى عواقب خطيرة.

تسلّط الدراسة الضوء على الحاجة الملحة للتأكد من صحة الهياكل المساعدة، لتفادي المخاطر المحتملة في المستقبل. ما هي الإجراءات التي تعتقد أنه يجب اتخاذها لتأمين هذه الهياكل ضد هجمات مشابهة؟ شاركونا أفكاركم!