Алгоритмическая дискриминация вызывает меньше морального возмущения, чем дискриминация со стороны людей

Компании и государственные органы используют алгоритмы для повышения качества решений при найме на работу, выборе методов лечения и условно-досрочном освобождении. Алгоритмы могут помочь преодолеть человеческие предубеждения при принятии решений, однако нередко сами принимают дискриминационные решения. В СМИ сообщается о сильном моральном возмущении из-за алгоритмической дискриминации, однако в этой работе проверяется, сильнее ли люди возмущаются алгоритмической дискриминацией, чем дискриминацией со стороны людей. В восьми исследованиях эта гипотеза проверялась на примере гендерной дискриминации при найме в различных группах участников: в онлайн-выборках, квазирепрезентативной выборке и выборке работников технологической отрасли. Алгоритмическая дискриминация вызывала меньше морального возмущения, чем дискриминация со стороны людей; участники также реже возлагали ответственность на организацию. Дефицит возмущения в ответ на алгоритмическую дискриминацию объяснялся тем, что алгоритмам реже приписывали предвзятые мотивы. Алгоритмы не только ослабляли возмущение, но и уменьшали похвалу: компании получали меньшую репутационную выгоду, когда гендерное неравенство сокращали алгоритмы, а не сотрудники. Кроме того, участники реже считали компанию юридически ответственной, если дискриминацию допускал алгоритм, а не человек. Обсуждаются теоретические и практические последствия этих результатов, в том числе возможное ослабление коллективных действий по борьбе с системной дискриминацией. (Запись в базе данных PsycInfo, © 2023 APA. Все права защищены.)