Определение неопределимого: проблема «чёрного ящика» в искусственном интеллекте в здравоохранении

«Проблема чёрного ящика» уже давно занимает центральное место в дискуссиях об искусственном интеллекте (ИИ). Она представляет собой существенный источник разногласий между специалистами по этике, программистами, практикующими врачами и всеми, кто участвует в разработке ИИ для применения в здравоохранении. Однако точные определения таких систем нередко отсутствуют, остаются расплывчатыми и неясными либо считаются стандартизированными в среде специалистов по ИИ. В результате участники разработки ИИ говорят, не понимая друг друга; эта проблема неоднократно становилась предметом дискуссий о непрозрачных и объяснимых системах. В статье предлагается последовательное и ясное определение проблемы «чёрного ящика», призванное содействовать дальнейшему обсуждению ИИ в здравоохранении. Для этого обобщены различные определения, представленные в научной литературе, и рассмотрены несколько критериев, которые можно вывести из этих определений.