Этика и управление медицинским искусственным интеллектом, заслуживающим доверия

Введение: Расширение применения искусственного интеллекта (ИИ) в здравоохранении привело к технологическим прорывам в традиционных подходах к диагностике и лечению, однако сопровождается множеством рисков и проблем. Эти неблагоприятные последствия также являются этическими проблемами, подрывают доверие к медицинскому ИИ и требуют выявления, прогнозирования и мониторинга.

Методы: Мы использовали междисциплинарный подход, обобщили пять факторов, влияющих на доверие к медицинскому ИИ: качество данных, алгоритмическую предвзятость, непрозрачность, безопасность и защищённость, а также распределение ответственности. Эти факторы рассмотрены с позиций технологий, права, заинтересованных сторон и медицинских организаций. На основе этической модели «этические ценности — этические принципы — этические нормы» предложены соответствующие меры этического управления медицинским ИИ, заслуживающим доверия, в этической, правовой и регуляторной сферах.

Результаты: Медицинские данные преимущественно неструктурированы, для них отсутствует единая стандартизированная разметка, а качество данных напрямую влияет на качество алгоритмических моделей медицинского ИИ. Алгоритмическая предвзятость может влиять на клинические прогнозы ИИ и усиливать неравенство в сфере здоровья. Непрозрачность алгоритмов снижает доверие пациентов и врачей к медицинскому ИИ, а ошибки алгоритмов или уязвимости системы безопасности могут создавать значительные риски и причинять вред пациентам. Участие медицинского ИИ в клинической практике может угрожать автономии и достоинству врачей и пациентов. При возникновении инцидентов с участием медицинского ИИ распределение ответственности остаётся неясным. Все эти факторы влияют на доверие людей к медицинскому ИИ.

Выводы: Чтобы медицинский ИИ заслуживал доверия, на этическом уровне в качестве основы его разработки прежде всего следует заложить ориентацию на укрепление здоровья человека. На правовом уровне современный медицинский ИИ не обладает моральным статусом, поэтому ответственность по-прежнему лежит на людях. На регуляторном уровне предлагаются усиление контроля качества данных, повышение прозрачности и прослеживаемости алгоритмов для снижения алгоритмической предвзятости, а также регулирование и проверка всех этапов развития отрасли ИИ для контроля рисков. Необходимо также поощрять обсуждение и оценку рисков ИИ и его социальных последствий с участием различных сторон, а также укреплять международное сотрудничество и взаимодействие.