Ключевые проблемы обеспечения клинической пользы искусственного интеллекта

Введение: Исследования в области искусственного интеллекта в здравоохранении быстро развиваются, и потенциальные области применения уже продемонстрированы в различных разделах медицины. Однако примеров успешного внедрения таких технологий в клиническую практику пока немного. В этой статье рассматриваются основные проблемы и ограничения искусственного интеллекта в здравоохранении и анализируются шаги, необходимые для переноса этих потенциально преобразующих технологий из исследований в клиническую практику.

Основная часть: Ключевые проблемы внедрения систем искусственного интеллекта в здравоохранении включают как ограничения, присущие науке машинного обучения, так и логистические трудности реализации, а также барьеры для принятия, необходимость социокультурных изменений и изменений клинических маршрутов. Надёжная клиническая оценка с рецензированием в рамках рандомизированных контролируемых исследований должна рассматриваться как золотой стандарт получения доказательств, однако на практике проведение таких исследований не всегда уместно или осуществимо. Показатели эффективности должны отражать реальную клиническую применимость и быть понятны предполагаемым пользователям. Нужны регулирование, которое уравновешивает темпы инноваций и потенциальный вред, а также взвешенный постмаркетинговый надзор, чтобы пациенты не подвергались опасным вмешательствам и одновременно не лишались доступа к полезным инновациям. Необходимо разработать механизмы, позволяющие напрямую сравнивать системы искусственного интеллекта, включая использование независимых, локальных и репрезентативных тестовых наборов. Разработчики алгоритмов искусственного интеллекта должны быть внимательны к потенциальным рискам, включая сдвиг данных, случайное подгоняние под конфаундеры, непреднамеренную дискриминационную предвзятость, трудности обобщения на новые популяции и непреднамеренные неблагоприятные последствия новых алгоритмов для исходов в здравоохранении.

Заключение: Безопасный и своевременный перенос исследований в области искусственного интеллекта в клинически валидированные и надлежащим образом регулируемые системы, которые могут принести пользу всем, представляет собой сложную задачу. Необходима строгая клиническая оценка с использованием показателей, интуитивно понятных для врачей и, в идеале, выходящих за рамки технической точности и включающих качество медицинской помощи и исходы для пациентов. Требуется дальнейшая работа по трем направлениям: выявление алгоритмической предвзятости и несправедливости с разработкой мер по их устранению, снижение хрупкости и повышение способности к обобщению, а также создание методов лучшей интерпретируемости предсказаний машинного обучения. Если эти цели будут достигнуты, польза для пациентов, вероятно, окажется преобразующей.