Объяснимый искусственный интеллект в медицинской визуализации: обзор для клинических практикующих врачей — подходы к объяснимому ИИ на основе карт значимости

В последние десять лет значительные достижения искусственного интеллекта доказали его высокую эффективность и многообещающие результаты во многих областях применения, поэтому ИИ стал неотъемлемой частью медицинских исследований. Рост доступности данных в сочетании с развитием высокопроизводительных вычислений и инновационных алгоритмов расширил возможности ИИ в различных направлениях. Поскольку ИИ быстро меняет исследования и способствует развитию персонализированной медицинской помощи, его внедрение сопровождается острой необходимостью глубокого понимания внутренних механизмов работы, особенно в областях с высокой ценой ошибки. Однако такие системы могут быть очень сложными и непрозрачными, что ограничивает возможность немедленного понимания их решений. В медицине этим решениям придается особенно большое значение, поскольку врачи и пациенты могут полностью доверять системам ИИ только тогда, когда происхождение их результатов можно обоснованно объяснить, одновременно обеспечивая выявление ошибок и смещений. Объяснимый искусственный интеллект (XAI), ставший в последние годы все более важным направлением исследований, способствует разработке методов объяснимости и предоставляет основу, позволяющую пользователям понимать результаты, генерируемые системами ИИ. В данной статье рассматривается применение XAI в медицинской визуализации с ориентацией на широкую аудиторию, особенно на медицинских работников. Содержание сосредоточено на определениях и таксономиях, стандартных методах и подходах, преимуществах, ограничениях и примерах, отражающих современное состояние исследований XAI в медицинской визуализации. Основное внимание в статье уделено методам XAI на основе карт значимости, при которых объяснение может быть представлено непосредственно на входных данных (изображении), и которые естественно имеют особое значение для медицинской визуализации.