Систематические ошибки искусственного интеллекта при анализе медицинских изображений: основы, выявление, предотвращение и снижение, проблемы, этические аспекты и перспективы

Методы искусственного интеллекта (ИИ) открывают перспективы для прогнозирования на основе медицинских изображений, однако их внедрение в практику может оказаться палкой о двух концах из-за систематических ошибок. Алгоритмы ИИ способны уменьшать влияние когнитивных искажений при интерпретации изображений человеком, но многочисленные исследования показывают, что сами системы ИИ склонны воспроизводить смещения, заложенные в их моделях. Намеренное или нет, это может привести к нежелательным последствиям в клинической практике и ухудшить исходы лечения пациентов. Эта проблема особенно актуальна для медицинской визуализации, где ИИ внедряется быстрее и шире, чем в любой другой области медицины. Поэтому для создания решений на основе ИИ, которые будут не только менее подвержены смещениям, но и применимы в широком круге ситуаций, необходимо понимать, на каких этапах разработки и применения возникают систематические ошибки. Цель этого международного совместного обзора — повысить осведомлённость специалистов по медицинской визуализации о необходимости заблаговременно выявлять и устранять смещения в системах ИИ, чтобы предупредить их негативные последствия. Сначала авторы рассмотрели основы проблемы: объяснили различные определения смещения и описали его возможные источники. Затем они изложили стратегии выявления смещений и рассмотрели методы их предотвращения и снижения. Кроме того, авторы обсудили этические аспекты, возникающие трудности и перспективы.