Парадоксы искусственного интеллекта

Работа Бейнбридж «Парадоксы автоматизации» стала дальновидным описанием проблем, связанных с влиянием автоматизации на деятельность человека; эти проблемы сохраняли актуальность на протяжении почти 40 лет после её публикации. Сегодня в самых разных областях и приложениях внедряется новая волна автоматизации на основе искусственного интеллекта (ИИ). Предупреждения Бейнбридж по-прежнему актуальны и для ИИ, однако его специфика и ориентация на когнитивные задачи создают новые трудности для взаимодействующих с ним людей. Описаны пять парадоксов ИИ: трудности с пониманием ИИ и адаптацией к нему; непрозрачность его ограничений и предвзятости, способная усиливать предвзятость решений человека; а также сложности с оценкой надёжности ИИ, который при этом остаётся недостаточно интеллектуальным для многих предназначенных ему задач. Предложены направления дальнейшей работы по созданию более ориентированных на человека приложений ИИ, способных решить эти проблемы.