Вскрывая чёрный ящик: возможности и ограничения объяснимого машинного обучения в кардиологии

Многие практикующие врачи по-прежнему настороженно относятся к машинному обучению из-за давних опасений по поводу моделей типа «чёрного ящика». Так называют модели, настолько сложные, что их трудно напрямую интерпретировать человеку. Отсутствие интерпретируемости прогностических моделей может подрывать доверие к ним, особенно в здравоохранении, где многие решения буквально связаны с жизнью и смертью. В последнее время резко возросло число исследований в области объяснимого машинного обучения, направленных на решение этой проблемы. Возможности объяснимого машинного обучения значительны, однако кардиологам, которые могут столкнуться с такими методами в инструментах поддержки клинических решений или новых научных публикациях, важно критически понимать как их преимущества, так и ограничения. В статье рассматриваются ключевые понятия и методы объяснимого машинного обучения применительно к кардиологии. К числу рассмотренных понятий относятся различия между интерпретируемостью и объяснимостью, а также между глобальными и локальными объяснениями. Продемонстрированы такие методы, как перестановочная важность признаков, суррогатные деревья решений, локальные интерпретируемые модельно-независимые объяснения и графики частичной зависимости. Обсуждаются ограничения методов объяснимости, прежде всего то, что объяснения представляют собой приближения и поэтому могут не отражать важную информацию о работе моделей типа «чёрного ящика» и причинах, по которым они выдают те или иные прогнозы. В заключение предлагается практическое правило, позволяющее определить, когда целесообразно использовать модели типа «чёрного ящика» с объяснениями, а не интерпретируемые модели.