Объяснимый искусственный интеллект в визуализации сердца: к более интерпретируемым моделям

Методы искусственного интеллекта успешно применяются в различных областях медицины и здравоохранения, в том числе при визуализации сердца. Однако некоторые модели машинного обучения, особенно модели глубокого обучения, считают «чёрным ящиком», поскольку они не объясняют полученные результаты. Сложность и непрозрачность таких моделей требуют перехода к методам объяснимого искусственного интеллекта (XAI), чтобы результаты были прозрачными и понятными конечным пользователям. В исследованиях по визуализации сердца методы XAI применяются лишь в небольшом числе работ. В этой статье представлен всесторонний обзор современных исследований, в которых методы XAI используют для визуализации сердца. Кроме того, предложены простые и подробные рекомендации по применению XAI. Наконец, обсуждаются нерешённые вопросы и перспективные направления развития XAI в визуализации сердца.