Обеспечение справедливости, предотвращение предвзятости и надлежащее применение искусственного интеллекта и машинного обучения в глобальном здравоохранении

В странах с низким и средним уровнем дохода машинное обучение и искусственный интеллект могут помочь восполнить дефицит ресурсов здравоохранения и расширить возможности местной инфраструктуры здравоохранения. Однако применять искусственный интеллект и машинное обучение следует с осторожностью, поскольку при ненадлежащем использовании могут возникать проблемы справедливости и алгоритмической предвзятости. Кроме того, население стран с низким и средним уровнем дохода может быть особенно уязвимо к проявлениям предвзятости и несправедливости в алгоритмах искусственного интеллекта из-за недостатка технических возможностей, существующей социальной предвзятости по отношению к группам меньшинств и отсутствия правовых гарантий. Для разработки более чётких рекомендаций в сфере глобального здравоохранения мы описываем три основных критерия, которые можно использовать для оценки применения систем машинного обучения и искусственного интеллекта: 1) НАДЛЕЖАЩЕЕ ПРИМЕНЕНИЕ — процесс определения того, как следует использовать алгоритм в конкретном местном контексте, и правильного соответствия модели машинного обучения целевой популяции; 2) ПРЕДВЗЯТОСТЬ — систематическая тенденция модели отдавать предпочтение одной демографической группе по сравнению с другой; её можно уменьшить, однако она способна приводить к несправедливости; 3) СПРАВЕДЛИВОСТЬ — оценка последствий для различных демографических групп и выбор одного из нескольких математических определений справедливости между группами, которое в достаточной степени соответствует установленным правовым, культурным и этическим требованиям. Наконец, мы показываем применение этих принципов на примере использования машинного обучения для диагностики и скрининга заболеваний лёгких в Пуне, Индия. Мы надеемся, что эти методы и принципы помогут исследователям и организациям, работающим в сфере глобального здравоохранения и рассматривающим возможность применения машинного обучения и искусственного интеллекта.