Мы доверяем ИИ: этика, искусственный интеллект и надёжность

Одна из основных трудностей при оценке искусственного интеллекта (ИИ) связана с тенденцией людей антропоморфизировать его. Особенно проблематично приписывать ИИ моральные действия, свойственные человеку. Например, Группа экспертов высокого уровня по искусственному интеллекту Европейской комиссии (HLEG) заняла позицию, согласно которой необходимо установить отношения доверия с ИИ и развивать заслуживающий доверия ИИ (HLEG AI Ethics guidelines for trustworthy AI, 2019, с. 35). Доверие — один из важнейших и определяющих компонентов человеческих отношений, поэтому утверждение о том, что ИИ следует доверять, имеет весьма серьёзные последствия. В статье показано, что ИИ не может быть объектом доверия в соответствии с наиболее распространёнными определениями этого понятия, поскольку он не обладает эмоциональными состояниями и не может нести ответственность за свои действия — требованиями аффективного и нормативного подходов к доверию. Хотя ИИ соответствует всем требованиям рационального подхода к доверию, показано, что на самом деле это вовсе не доверие, а форма полагания на систему. В конечном счёте даже сложные машины, такие как ИИ, не следует считать заслуживающими доверия, поскольку это обесценивает межличностное доверие, антропоморфизирует ИИ и снимает ответственность с тех, кто его разрабатывает и использует.