في عالم الرعاية الصحية، تعتبر ملاحظات الأورام الخاصة بالمرضى من أكثر الوثائق تعقيدًا. إذ تحتوي على مصطلحات متخصصة، تعبيرات عن مراحل الأورام، أسماء العلاجات، ووصف للسمية، مما يجعل التعامل معها تحديًا كبيرًا للأنظمة التقليدية.

في هذا السياق، تم تطوير نموذج "OncoNoteBERT"، وهو نموذج مبني على تقنيات BERT المستحدثة، والذي تم تصميمه خصيصاً للتعامل مع محتوى ملاحظات الأورام. اعتمد الفريق البحثي في تطويره على مجموعة بيانات ضخمة تحتوي على 290,026 ملاحظة تم جمعها من 21,564 مريضًا، تم علاجهم من سرطان الرئة وسرطان الرأس والعنق.

لقد تم مقارنة "OncoNoteBERT" مع نماذج أخرى مثل "RadBERT" و"PathologyBERT"، حيث أظهرت النتائج أن "OncoNote-RadBERT"، والذي تم تدريبه بشكل مستمر، كان لديه أداء ممتاز مع مقاييس تناسب منخفضة، بينما كانت النماذج الأخرى أقل كفاءة في تقديم النتائج.

حقق "OncoNoteBERT" مستوى مناسب من التقييم، حيث بلغ معدل التعقيد 2.83 مع تقديم أفضل نتائجه في اختبارات المحاكاة السريرية، حيث نجح في تقديم توقعات مقبولة لعدد كبير من الممارسات السريرية.

تجدر الإشارة إلى أنه بالرغم من الاختلافات في الأداء بين النماذج، فإن التصميم الخاص بوصلة تمثيل البيانات يعد عاملًا حاسمًا قبل استخدام نماذج أخرى في مجالات مثل معالجة اللغة الطبيعية في الأورام. إن الاستمرار في التكيف مع البيانات الخاصة وعمليات التوكين المصممة خصيصاً قد يؤدي إلى نتائج أفضل.