Разработка и валидация предобученной языковой модели для прогнозирования неонатальных осложнений: ретроспективное многоцентровое прогностическое исследование

Введение: Раннее выявление и мониторинг неонатальных осложнений имеют критическое значение для своевременного проведения вмешательств, позволяющих предотвратить осложнения, оптимизировать использование ресурсов и поддержать семьи. Хотя традиционные инструменты, основанные на табличных данных и биомаркерах, полезны, их возможности для оценки риска осложнений у новорождённых ограничены. В этом исследовании мы разработали NeonatalBERT — предобученную большую языковую модель, оценивающую риск неонатальных осложнений по клиническим записям.

Методы: В этом прогностическом исследовании изучались ретроспективные основная и внешняя когорты, сформированные в двух различных академических медицинских центрах США, оказывающих помощь четвертичного уровня: Stanford Health Care и Beth Israel Deaconess Medical Center. Сначала NeonatalBERT была предобучена на клинических записях из основной когорты, а затем отдельно дообучена для обеих когорт. NeonatalBERT также сравнивали с другими существующими большими языковыми моделями, такими как BioBERT и Bio-ClinicalBERT, а также с традиционными моделями машинного обучения и моделями логистической регрессии, использующими табличные признаки. Для основной когорты NeonatalBERT оценивали по 19 неонатальным осложнениям: респираторному дистресс-синдрому, бронхолёгочной дисплазии, лёгочному кровотечению, лёгочной гипертензии, ателектазу, аспирационному синдрому, внутрижелудочковому кровоизлиянию, перивентрикулярной лейкомаляции, неонатальным судорогам, другим расстройствам центральной нервной системы, открытому артериальному протоку, сердечно-сосудистой нестабильности, сепсису, кандидозу, анемии, желтухе, некротизирующему энтероколиту, ретинопатии недоношенных и смерти; для внешней когорты — по 10 исходам: респираторному дистресс-синдрому, бронхолёгочной дисплазии, лёгочному кровотечению, внутрижелудочковому кровоизлиянию, открытому артериальному протоку, сепсису, желтухе, некротизирующему энтероколиту, ретинопатии недоношенных и смерти. Для каждого исхода оценивали площадь под ROC-кривой, площадь под кривой точность–полнота (AUPRC) и F1-меру.

Результаты: В основную когорту вошёл 32 321 новорождённый, включая 27 411 новорождённых в основной обучающей выборке (средний гестационный возраст 38,64 недели [SD 2,30]; 13 056 [47,6%] девочек и 14 355 [52,4%] мальчиков) и 4910 новорождённых в основной тестовой выборке (средний гестационный возраст 38,64 [2,13] недели; 2336 [47,6%] девочек и 2574 [52,4%] мальчиков). Кроме того, во внешнюю когорту вошёл 7061 новорождённый, включая 5653 в обучающей выборке (1567 [27,7%] недоношенных и 4086 [72,3%] доношенных; 2614 [46,2%] девочек и 3039 [53,8%] мальчиков) и 1408 в тестовой выборке (383 [27,2%] недоношенных и 1025 [72,8%] доношенных; 624 [44,3%] девочки и 784 [55,7%] мальчика). В основной когорте средняя AUPRC по 19 исходам составила 0,291 (95% ДИ 0,268–0,314) для NeonatalBERT, 0,238 (0,217–0,259) для Bio-ClinicalBERT, 0,217 (0,197–0,236) для BioBERT и 0,194 (0,177–0,211) для традиционной модели, использующей табличные данные. Во внешней когорте средняя AUPRC для NeonatalBERT составила 0,360 (0,328–0,393), превысив показатели других моделей, находившиеся в диапазоне 0,224–0,333.

Выводы: Валидация на двух крупных наборах данных из США показала, что NeonatalBERT эффективно оценивает риск неонатальных осложнений по неструктурированным клиническим записям новорождённых. Полученные обнадёживающие результаты указывают на потенциал NeonatalBERT для улучшения неонатальной помощи и оптимизации работы больниц.

Финансирование: Национальные институты здравоохранения США, Burroughs Wellcome Fund, March of Dimes Foundation, Alfred E Mann Foundation, Gates Foundation, Christopher Hess Research Fund, Roberts Foundation Research Fund, Prematurity Research Center и средства программы постдокторской поддержки Stanford Maternal & Child Health Research Institute.