تتقدم أبحاث الذكاء الاصطناعي بشكل سريع، ومع ذلك تظل قضايا الخصوصية والأمان تمثل تحديات كبيرة. في الورقة البحثية الجديدة المعنونة "تحسين الخوارزميات دون تسرب المعلومات: اكتشاف حدود التعميم القابلة للإثبات من خلال BBoxER"، يستعرض الباحثون كيف أن التحسين القائم على التدرجات، رغم فعاليته في التدريب، قد يكشف عن معلومات حساسة حول البيانات المستخدمة، مما يؤدي إلى مخاوف تتعلق بالأمان، مثل التعرض لهجمات تسمم البيانات (Data Poisoning).

في المقابل، تقدم طرق التحسين بالأسود (Black-Box Optimization)، والتي تعالج النموذج كوظيفة غير شفافة وتعتمد فقط على تقييمات الوظائف لتوجيه عملية التحسين، بديلاً واعدًا في السيناريوهات التي تكون فيها البيانات مخفية أو المخاطر العدوة مرتفعة.

تُقدم الورقة BBoxER، وهي طريقة تطورية للتحسين بالأسود لهندسة ما بعد التدريب على نماذج اللغات الكبيرة، التي تعزز من الخصوصية من خلال إنشاء عنق زجاجة معلوماتي عبر ضغط غير مباشر للبيانات التدريبية. من خلال الاستفادة من القابلية للتدقيق في تدفق المعلومات، توفر BBoxER حدود تعميم غير فارغة وضمانات نظرية قوية لمقاومة هجمات تلاعب البيانات.

أظهرت التجارب أن طرق التحسين بالأسود، رغم التحديات الحسابية الكبيرة المرتبطة بها، قادرة على التعلم بشكل فعال حيث أظهرت تقنيات BBoxER تحسنًا ملحوظًا في الأداء وعمومًا جيدًا في مجموعة متنوعة من البيانات، إلى جانب القدرة على مقاومة هجمات استنتاج العضوية. لذا، يُعتبر BBoxER إضافة جذابة فوق التحسين القائم على التدرجات، مما يجعلها مناسبة للنشر في بيئات مقيدة مع ضمانات تعميم غير فارغة.