SHAP и LIME: оценка дискриминационной способности при оценке кредитного риска

При оценке кредитного риска наиболее важно получить вероятность дефолта, максимально близкую к фактическому риску. Это быстро привело к появлению новых мощных алгоритмов, обеспечивающих значительно более высокую точность, но снижающих интерпретируемость, например градиентного бустинга и ансамблевых методов. Такие модели обычно называют «чёрными ящиками»: известны их входные данные и результат, однако понять происходящее внутри модели практически невозможно. В ответ на это в последние годы получили широкое распространение различные модели объяснимого искусственного интеллекта, позволяющие понять, почему «чёрный ящик» выдал определённый результат. В этом контексте оценивается способность двух широко применяемых моделей объяснимого искусственного интеллекта — SHAP и LIME — разграничивать наблюдения по группам посредством применения методов обучения без учителя и прогнозного моделирования к локальным весам признаков, присваиваемым этими моделями. Оценка проведена на реальных данных о малых и средних предприятиях, полученных из официальных итальянских баз данных, и может стать основой для использования таких моделей при извлечении признаков на этапе постобработки.