Подводные камни ИИ и чего делать не следует: снижение смещения в системах искусственного интеллекта

Различные формы приложений искусственного интеллекта (ИИ) внедряются и используются во многих системах здравоохранения. По мере расширения их применения мы лучше понимаем сбои этих моделей и то, как они могут воспроизводить смещение. Учитывая этот опыт, необходимо уделять первоочередное внимание оценке и снижению смещения в радиологических приложениях, не игнорируя при этом влияние изменений в более широкой корпоративной среде внедрения ИИ, которые могут в дальнейшем сказаться на работе моделей ИИ. В этой статье представлен обновлённый обзор известных подводных камней, приводящих к смещению ИИ, и обсуждаются стратегии его снижения в контексте внедрения ИИ в более крупной системе здравоохранения. Эти подводные камни описаны в рамках жизненного цикла ИИ — от формулирования задачи, выбора и подготовки набора данных до обучения и внедрения модели, — с акцентом на то, что смещение существует в виде спектра и является следствием сочетания человеческих и машинных факторов.