Раскрытие чёрного ящика искусственного интеллекта в медицине

Одно из главных препятствий для применения искусственного интеллекта (ИИ) в медицине заключается в том, что врачи неохотно доверяют технологиям и внедряют их, если не понимают принципов их работы и воспринимают их как «чёрный ящик». Машинное обучение может помогать в интерпретации радиологических, эндоскопических и гистологических изображений, предлагать диагноз, прогнозировать исход заболевания и даже рекомендовать лечебную тактику и решения о хирургическом вмешательстве. Однако внедрение этих инструментов в клиническую практику происходит медленно из-за недостатка доверия. Развитию таких технологий препятствует не только недоверие врачей: пациенты также не уверены в надёжности технологий на основе ИИ. Хотя люди могут принять возможность ошибок со стороны человека, к ошибкам машин ожидается крайне низкая терпимость. Для успешного внедрения ИИ в медицину необходимо повысить интерпретируемость алгоритмов машинного обучения. Раскрытие «чёрного ящика» в медицине с применением ИИ требует поэтапного подхода. Постепенное накопление биологических обоснований и клинического опыта применения алгоритмов машинного обучения может способствовать формированию доверия и принятию этих технологий. Разработчики программного обеспечения на основе ИИ должны ясно продемонстрировать, что интеграция технологий машинного обучения в процесс принятия клинических решений действительно позволяет улучшить исходы лечения. Повышение интерпретируемости алгоритмов машинного обучения — важнейший шаг на пути к внедрению ИИ в медицину.