Объяснимый искусственный интеллект в медицинской визуализации: обзор для клинических практикующих врачей — за пределами подходов XAI, основанных на картировании значимости

Рост внедрения систем искусственного интеллекта и машинного зрения в медицину особенно заметен в медицинской визуализации, где такие системы помогают решать задачи классификации, сегментации и регистрации изображений, а также меняют медицинские исследования и способствуют развитию персонализированной клинической помощи. По мере расширения применения искусственного интеллекта возрастает потребность в глубоком понимании таких систем, их принципов работы, возможностей и ограничений, чему посвящена область объяснимого искусственного интеллекта. Поскольку медицинская визуализация в основном связана с визуальными задачами, большинство подходов к объяснению используют методы XAI, основанные на картировании значимости. В этой статье авторы рассматривают весь потенциал методов XAI в медицинской визуализации, уделяя особое внимание техникам, не основанным на картировании значимости, и приводят разнообразные примеры. Работа адресована широкому кругу читателей, особенно медицинским работникам. Кроме того, цель статьи — создать общую основу для междисциплинарного понимания и обмена между разработчиками глубокого обучения и медицинскими специалистами, поэтому обзор выполнен в нетехническом ключе. Представленные методы XAI разделены по типу выходного представления на следующие категории: объяснения, основанные на клинических случаях, текстовые объяснения и вспомогательные объяснения.