Объяснимость искусственного интеллекта в здравоохранении: междисциплинарная перспектива

Введение: Объяснимость — одна из наиболее активно обсуждаемых тем, связанных с применением искусственного интеллекта (ИИ) в здравоохранении. Хотя в ряде аналитических задач системы на основе ИИ превосходят человека, отсутствие объяснимости по-прежнему вызывает критику. Однако объяснимость — не исключительно технологическая проблема: она затрагивает множество медицинских, правовых, этических и общественных вопросов, требующих всестороннего изучения. В настоящей работе представлена комплексная оценка роли объяснимости в медицинском ИИ и этический анализ значения объяснимости для внедрения инструментов на основе ИИ в клиническую практику.

Методы: На примере систем поддержки принятия клинических решений на основе ИИ проведён междисциплинарный анализ значения объяснимости для медицинского ИИ с технологической, правовой, медицинской и пациентской точек зрения. На основании результатов этого концептуального анализа выполнена этическая оценка с использованием «Принципов биомедицинской этики» Бичампa и Чилдресса — автономии, благодеяния, непричинения вреда и справедливости — в качестве аналитической основы для определения необходимости объяснимости в медицинском ИИ.

Результаты: Каждая из рассмотренных областей выявляет собственный набор ключевых положений и ценностей, имеющих значение для понимания роли объяснимости в клинической практике. С технологической точки зрения необходимо учитывать как способы достижения объяснимости, так и её пользу для разработки систем. В правовой сфере основными аспектами, связанными с объяснимостью, оказались информированное согласие, сертификация и регистрация таких систем в качестве медицинских изделий, а также ответственность. Медицинский и пациентский подходы подчёркивают важность учёта взаимодействия человека с медицинским ИИ. Мы пришли к выводу, что отсутствие объяснимости в системах поддержки принятия клинических решений угрожает основным этическим ценностям медицины и может иметь неблагоприятные последствия для здоровья отдельных людей и общества в целом.

Выводы: Чтобы медицинский ИИ реализовал свой потенциал, необходимо повысить осведомлённость разработчиков, медицинских работников и законодателей о проблемах и ограничениях непрозрачных алгоритмов, а также развивать междисциплинарное сотрудничество.