Аудит аудиторов ИИ: рамочная модель для оценки справедливости и предвзятости в высокорисковых прогностических моделях искусственного интеллекта

Растет обеспокоенность исследователей, правительств, этических надзорных органов и общественности по поводу несправедливости и предвзятости инструментов принятия решений на основе искусственного интеллекта (ИИ). Более чем столетний опыт психологии в измерении психологических черт и прогнозировании человеческого поведения может быть полезен для этих дискуссий, однако психологические исследователи нередко оказываются исключены из них из-за различий в терминологии, ценностях и целях между дисциплинами. В настоящей статье мы начинаем формировать общее междисциплинарное понимание справедливости и предвзятости ИИ, сначала представляя три основных подхода, которые различаются по фокусу и типичности для той или иной дисциплины, через призму которых следует рассматривать соответствующие вопросы: (a) индивидуальные установки, (b) законность, этичность и мораль, (c) заложенные смыслы в технических областях. Используя эти подходы, далее мы предлагаем стандартизированный способ оценки справедливости и предвзятости систем ИИ, которые делают прогнозы о людях, с учетом междисциплинарных перспектив. Мы выделяем 12 ключевых компонентов аудита в трех категориях: (a) компоненты, относящиеся к моделям ИИ с точки зрения исходных данных, дизайна, разработки, признаков, процессов и результатов; (b) компоненты, относящиеся к тому, как информация о моделях и их применении представляется, обсуждается и понимается с позиций тех, кто использует алгоритм, тех, на кого влияют решения, принятые на основе его прогнозов, и сторонних наблюдателей; (c) метакомпоненты, которые необходимо учитывать во всех остальных компонентах аудита, включая культурный контекст, уважение к личности и целостность отдельных исследовательских дизайнов, используемых для обоснования всех заявлений разработчиков модели. (Запись базы данных PsycInfo (c) 2023 APA, все права защищены). психологические аудиты