Кто боится алгоритмов чёрного ящика? Об эпистемологических и этических основаниях доверия к искусственному интеллекту в медицине

Использование алгоритмов чёрного ящика в медицине вызывает обеспокоенность исследователей из-за их непрозрачности и недостаточной надёжности. В связи с применением таких алгоритмов возникают вопросы возможной предвзятости, подотчётности и ответственности, автономии пациента и подрыва доверия. Эти опасения связывают эпистемологические проблемы с нормативными аспектами. В этой статье мы показываем, что с эпистемологической точки зрения алгоритмы чёрного ящика представляют меньшую проблему, чем полагают многие исследователи. Мы обосновываем, что дополнительная прозрачность алгоритмов нужна не всегда, а вычислительные процессы действительно методологически непрозрачны для человека. Надёжность алгоритмов, однако, даёт основания доверять результатам применения искусственного интеллекта в медицине. Мы объясняем, каким образом вычислительный релиабилизм — подход, не требующий прозрачности и поддерживающий надёжность алгоритмов, — обосновывает убеждённость в том, что результатам медицинского искусственного интеллекта можно доверять. Вместе с тем мы показываем, что даже при достоверности результатов алгоритмов чёрного ящика сохраняется ряд этических проблем. Обоснованное знание, полученное на основании надёжных индикаторов, необходимо, но недостаточно для нормативного оправдания действий врача. Поэтому для определения желательного образа действий требуется обсуждение и оценка результатов работы надёжных алгоритмов. Такой подход не означает, что от использования алгоритмов чёрного ящика следует полностью отказаться; напротив, выявленные проблемы должны учитываться при их разработке и внедрении. Если врачи будут обучены необходимым навыкам и знаниям, а также будут сотрудничать со специалистами по медицинской информатике и анализу данных, алгоритмы чёрного ящика смогут способствовать улучшению медицинской помощи. Вычислительный релиабилизм