Устранение предвзятости искусственного интеллекта при диагностике заболеваний сетчатки

Цель: Оценить методы генерации данных, потенциально способные уменьшить предвзятость искусственного интеллекта (ИИ) при диагностике диабетической ретинопатии (ДР), обусловленную дисбалансом обучающих данных или проблемой обобщения на новые домены, возникающей, когда системы глубокого обучения (СГО) при тестировании или применении сталкиваются с концепциями, на которых изначально не обучались.

Методы: Был использован общедоступный набор данных Kaggle EyePACS, включавший 88 692 снимка глазного дна 44 346 человек и первоначально отличавшийся этническим разнообразием. В него добавили разметку, выполненную врачами, и смоделировали дисбаланс данных и проблему обобщения на новые домены: при обучении, но не при тестировании, исключили примеры изображений сетчатки с ДР, требующей направления к специалисту, у людей с более тёмной кожей. Предполагалось, что в среднем у таких людей концентрация меланина в увеальных меланоцитах выше, что влияет на пигментацию изображений сетчатки. Традиционную диагностическую СГО сравнили с новыми СГО, обученными на данных, дополненных с помощью генеративных моделей для устранения предвзятости.

Результаты: Точность (95% доверительный интервал [ДИ]) исходной диагностической СГО при анализе снимков глазного дна людей со светлой кожей составила 73,0% (66,9–79,2%), а у людей с более тёмной кожей — 60,5% (53,5–67,3%), что свидетельствовало о предвзятости и неравенстве показателей ИИ между защищёнными подгруппами (Δ = 12,5%; t-критерий Уэлча: t = 2,670; p = 0,008). Применение новых генеративных методов для восполнения отсутствующих в обучающей выборке данных о подгруппе людей с более тёмной кожей и ДР, требующей направления к специалисту, позволило получить точность 72,0% (65,8–78,2%) у людей со светлой кожей и 71,5% (65,2–77,8%) у людей с более тёмной кожей. Таким образом, различие точности между подгруппами уменьшилось до 0,5% (t-критерий Уэлча: t = 0,111; p = 0,912).

Выводы: Результаты показывают, что дисбаланс данных и проблема обобщения на новые домены могут приводить к различиям в точности между подгруппами, а новые генеративные методы создания синтетических изображений глазного дна могут способствовать устранению предвзятости ИИ.

Трансляционная значимость: Новые методы ИИ потенциально могут применяться для устранения предвзятости при диагностике ДР, связанной с пигментацией глазного дна, а также в других системах глубокого обучения в офтальмологии.