Практическое руководство по анализу SHAP: объяснение предсказаний моделей машинного обучения с учителем при разработке лекарственных препаратов

Несмотря на растущий интерес к применению моделей искусственного интеллекта и машинного обучения при разработке лекарственных препаратов, эффективная интерпретация их предсказаний остаётся сложной задачей, что ограничивает их влияние на принятие клинических решений. В этой статье представлен практический обзор метода аддитивных объяснений Шепли (SHAP) — популярного метода интерпретации на основе признаков, который можно легко интегрировать в модели машинного обучения с учителем для более глубокого понимания их предсказаний, повышения прозрачности и надёжности моделей. Руководство посвящено применению анализа SHAP к стандартным моделям машинного обучения типа «чёрного ящика» для решения задач регрессии и классификации. Рассмотрены различные виды графиков визуализации и их интерпретация, доступное программное обеспечение для реализации SHAP, а также оптимальные практические подходы и особенности анализа бинарных конечных точек и моделей временных рядов. Для более глубокого понимания метода он также применён к изначально интерпретируемым моделям регрессии. В заключение обсуждаются ограничения метода и продолжающиеся разработки, направленные на устранение его имеющихся недостатков.