Применение объяснимого искусственного интеллекта в здравоохранении: систематический обзор за последнее десятилетие (2011–2022 гг.)

Введение и цель: Искусственный интеллект (ИИ) находит применение в различных областях здравоохранения: управлении медицинскими услугами, прогностической медицине, принятии клинических решений, работе с данными пациентов и диагностике. Несмотря на то что модели ИИ достигли результатов, сопоставимых с человеческими, их применение по-прежнему ограничено: их воспринимают как «чёрный ящик». Недостаток доверия — главная причина редкого использования таких моделей на практике, особенно в здравоохранении. Для повышения доверия к прогнозам моделей ИИ был предложен объяснимый искусственный интеллект (XAI), который позволяет понять, как получен прогноз, и тем самым способствует внедрению систем ИИ в здравоохранение. Цель обзора — определить области здравоохранения, которым исследователи XAI должны уделять больше внимания.

Методы: Проведён тщательный поиск в нескольких базах данных научных журналов в соответствии с рекомендациями PRISMA 2020. Исключались исследования, опубликованные не в журналах первого квартиля (Q1), которые считаются высокорейтинговыми.

Результаты: В обзор вошли 99 статей из журналов Q1, посвящённых следующим методам XAI: SHAP, LIME, GradCAM, LRP, нечёткие классификаторы, EBM, CBR, системы на основе правил и другие.

Выводы: Исследователям XAI следует уделять больше внимания выявлению патологических изменений в одномерных биосигналах и обнаружению ключевых фрагментов текста в клинических записях. Мы надеемся, что этот обзор будет способствовать разработке комплексной облачной системы для умного города.