Этические аспекты и проблемы систематических смещений в системах искусственного интеллекта и машинного обучения

По мере того как искусственный интеллект (ИИ) получает всё более широкое применение в патоморфологии и медицине, этические последствия и возможные смещения в интегрированных моделях ИИ требуют тщательной оценки. Этика и систематические смещения имеют большое значение в клинической практике, особенно с учётом увеличения числа систем машинного обучения (МО), внедряемых в различные медицинские области. Такие системы на основе МО продемонстрировали выдающиеся возможности в решении специализированных задач, включая, помимо прочего, распознавание изображений, обработку естественного языка и прогнозную аналитику. Однако возможные смещения в моделях ИИ и МО могут непреднамеренно приводить к несправедливым и потенциально неблагоприятным последствиям. Источники смещений в таких моделях многочисленны, но обычно их относят к трём основным категориям: смещениям данных, смещениям на этапе разработки и смещениям, связанным с взаимодействием. Они могут быть обусловлены обучающими данными, алгоритмическими особенностями, проблемами разработки и отбора признаков, клиническими и институциональными различиями (то есть вариабельностью практики), смещением при представлении результатов, а также временными смещениями, связанными с изменениями технологий, клинической практики или структуры заболеваний. Поэтому, несмотря на значительный потенциал этих приложений ИИ и МО, их внедрение в повседневную практику также вызывает важные этические вопросы. Для решения проблем этики и систематических смещений в медицине необходим комплексный процесс оценки, охватывающий все этапы функционирования таких систем — от разработки модели до клинического внедрения. Устранение этих смещений крайне важно для обеспечения справедливости, прозрачности и пользы систем ИИ и МО для всех пациентов. В настоящем обзоре рассматриваются актуальные этические аспекты и проблемы систематических смещений при применении ИИ и МО в патоморфологии и медицине.