Применение объяснимого искусственного интеллекта в диагностике и хирургии

В последние годы искусственный интеллект (ИИ) продемонстрировал большие перспективы в медицине. Однако проблемы объяснимости затрудняют его применение в клинической практике. Для преодоления ограничений «черного ящика» ИИ ведутся исследования в области объяснимого искусственного интеллекта (XAI). В отличие от методов ИИ, таких как глубокое обучение, XAI способен предоставлять как решение, так и объяснение модели. В этом обзоре мы проанализировали современные тенденции применения XAI в медицинской диагностике и хирургии. Мы искали статьи, опубликованные в 2019–2021 годах, в PubMed, IEEE Xplore, Association for Computing Machinery и Google Scholar. В обзор были включены статьи, соответствующие критериям отбора, после чего из них извлекли и проанализировали релевантную информацию. Кроме того, мы представили экспериментальный пример диагностики рака молочной железы и показали, как XAI может применяться в медицинских приложениях. Наконец, мы обобщили методы XAI, использованные в медицинских приложениях, трудности, с которыми столкнулись исследователи, и обсудили направления дальнейших исследований. Результаты обзора показывают, что медицинский XAI является перспективным направлением исследований, а данная работа призвана служить ориентиром для медицинских специалистов и специалистов по ИИ при разработке медицинских приложений XAI.