Мы говорим, что гендер ИИ не имеет значения, но платим ему по-разному

Люди нередко утверждают, что им безразлично, какого пола голос или виртуальный образ искусственного интеллекта. Однако эксперимент с участием 189 человек показал, что на практике всё может быть иначе. Виртуальному помощнику с мужским образом участники выделяли больше денег, чем аналогичному помощнику с женским образом, хотя оба использовали одну и ту же технологию и выполняли одинаковые задачи.

Исследование под названием «Human-Like and Male? How AI Assistant Design Relates to Trust and Monetary Reward at Work in VR» («Человекоподобный и мужской? Как дизайн ИИ-помощника влияет на доверие и денежное вознаграждение в виртуальной реальности») провели учёные из нескольких европейских университетов. Результаты демонстрируют, что при взаимодействии с искусственным интеллектом люди могут переносить на него привычные социальные стереотипы.

Работа особенно интересна на фоне распространения ИИ-агентов, которые не просто отвечают на вопросы, но и становятся цифровыми коллегами: помогают готовить документы, обсуждать идеи, анализировать информацию и выполнять профессиональные задачи. Если внешний вид такого помощника влияет на оценку его вклада, это может иметь значение для будущих систем взаимодействия человека и ИИ.

Почему у голосовых помощников так часто женский голос

На протяжении многих лет пользователи привыкли слышать женские голоса от цифровых ассистентов, навигаторов и автоматизированных систем обслуживания. Примеры включают Siri, Alexa и голосовые подсказки GPS. Подобный выбор стал настолько привычным, что многие воспринимают его как естественный вариант интерфейса.

Однако за ним могут стоять социальные представления о гендере. Женские голоса нередко ассоциируются с доброжелательностью, терпением, заботой и готовностью помочь. Мужские голоса, напротив, в некоторых ситуациях воспринимаются как более авторитетные, уверенные и подходящие для руководящих ролей.

Это не означает, что женщины объективно лучше подходят для общения или что мужчины обладают большей компетентностью. Речь идёт о стереотипах, которые формируются под влиянием культуры, привычек и жизненного опыта.

Когда разработчики выбирают для ИИ-помощника женский голос, имя или внешний образ, они могут непреднамеренно закреплять представление о том, что роль помощника должна быть женской. Аналогичным образом мужской образ может восприниматься как более подходящий для экспертной или руководящей функции.

Важная особенность современных ИИ-систем заключается в том, что их гендерная идентичность обычно задаётся дизайнерскими решениями. Голос, имя, аватар и манера общения не определяют реальные интеллектуальные способности модели, но способны повлиять на то, как её оценивает человек.

Как проходил эксперимент с участием 189 человек

Исследователи организовали виртуальную рабочую среду, в которой 189 участников взаимодействовали с искусственным интеллектом, выполняя задания, связанные с профессиональной деятельностью. Для погружения в цифровое окружение использовались очки виртуальной реальности.

В эксперименте сравнивались четыре способа представления ИИ-помощника:

• Текстовый чат-бот. Пользователь взаимодействовал с системой через текстовый интерфейс, привычный для большинства современных ИИ-сервисов.
• Настольный робот. ИИ представлялся в виде небольшого робота, размещённого рядом с участником.
• Johan. Виртуальный помощник с человекоподобной внешностью и мужским образом.
• Johanna. Виртуальный помощник с человекоподобной внешностью и женским образом.

Все четыре варианта использовали одну и ту же базовую языковую модель GPT-4 и одинаковую схему взаимодействия. Это позволило исследователям сосредоточиться на том, как форма представления ИИ связана с восприятием его работы.

Каждый участник взаимодействовал с текстовым чат-ботом, настольным роботом и одним из двух человекоподобных аватаров — Johan или Johanna. Таким образом, участники не сравнивали обоих виртуальных персонажей напрямую: одна часть работала с мужским образом, а другая — с женским.

После выполнения заданий люди оценивали, насколько помощник похож на человека, насколько ему можно доверять и какой вклад он внёс в совместную работу. Кроме того, исследователи предусмотрели поведенческий эксперимент с реальными деньгами.

Участникам разрешалось выделить каждому помощнику до четырёх швейцарских франков в качестве вознаграждения за его вклад. Оставшуюся сумму они могли сохранить себе. Благодаря этому учёные изучали не только ответы участников в интервью, но и их реальные решения.

Женскому ИИ-помощнику выделяли меньше денег

Самым обсуждаемым результатом исследования стала разница в денежном вознаграждении двух человекоподобных помощников. По данным Университета Цюриха, Johanna получила на 10,25% меньше денег, чем Johan.

При этом оба помощника использовали одну и ту же базовую технологию. Они выполняли аналогичные задания, а различия в их представлении были связаны прежде всего с гендерным образом и особенностями восприятия внешности.

Исследователи также обнаружили, что мужской виртуальный персонаж воспринимался как более человекоподобный. Это важно, поскольку степень сходства с человеком сама по себе могла влиять на отношение участников к помощнику.

При этом результаты нельзя упрощать до утверждения, будто участники однозначно считали мужской ИИ более компетентным. Различия в оценках доверия и вклада между Johan и Johanna не достигли статистической значимости. Заметная разница обнаружилась именно в размере вознаграждения и оценке человекоподобности.

Кроме того, эффект наблюдался как среди мужчин, так и среди женщин, хотя среди участников-мужчин различия были выражены сильнее. Это указывает на то, что речь идёт не только об индивидуальных предпочтениях отдельных людей.

Почему люди говорят одно, а поступают иначе

Одним из наиболее интересных аспектов исследования стало расхождение между словами участников и их поведением. Во время последующих интервью многие заявляли, что гендер ИИ не должен влиять на доверие к нему, оценку работы или размер вознаграждения.

Некоторые участники даже предпочитали помощников без выраженного гендерного образа. Они считали, что искусственному интеллекту необязательно придавать мужскую или женскую идентичность, поскольку это программная система, а не человек.

Однако денежные решения показали, что заявленные убеждения не всегда совпадают с реальным поведением. Даже если человек сознательно старается не учитывать гендер, его восприятие может зависеть от внешности, голоса, имени и других социальных сигналов.

Подобное расхождение не обязательно означает намеренную дискриминацию. Люди могут не осознавать, какие именно детали повлияли на их решение. Психологические предубеждения часто проявляются автоматически, без сознательного намерения оценивать кого-либо несправедливо.

Эксперимент показывает, почему для изучения поведения пользователей недостаточно спрашивать их мнение. Чтобы понять, как люди действительно взаимодействуют с ИИ, необходимо наблюдать за их решениями и действиями в конкретных ситуациях.

Человекоподобные помощники вызывают больше доверия

Разница между Johan и Johanna была не единственным важным результатом. В исследовании обнаружилась ещё одна закономерность: человекоподобные помощники в целом получали более высокие оценки доверия и вклада, а также большее денежное вознаграждение, чем настольный робот.

Во время интервью некоторые участники объясняли своё отношение тем, что виртуальные персонажи казались им более похожими на настоящих коллег. С ними было проще установить социальный контакт, чем с устройством, которое явно выглядело как машина.

Однако предпочтения людей оказались неоднозначными. Хотя человекоподобные аватары чаще получали положительные оценки, часть участников говорила, что предпочла бы взаимодействовать с системой, которая явно не притворяется человеком.

Таким образом, более высокий уровень доверия не обязательно означает, что человекоподобный интерфейс является лучшим решением для всех задач. Слишком реалистичный образ может создавать ложное впечатление о возможностях системы и затруднять понимание того, что перед пользователем находится искусственный интеллект.

Для разработчиков возникает непростая задача: создать удобный интерфейс, который помогает человеку общаться с системой естественным образом, но при этом не вводит его в заблуждение относительно природы помощника.

Как искусственный интеллект перенимает человеческие предубеждения

Гендерные стереотипы могут влиять не только на восприятие ИИ-помощников, но и на работу самих моделей. Большие языковые модели обучаются на огромных массивах текстов, созданных людьми. Эти данные содержат как полезные знания, так и отражение общественных предубеждений.

Если в обучающих материалах определённые профессии чаще связываются с мужчинами, а обязанности по уходу или обслуживанию — с женщинами, модель может воспроизводить подобные ассоциации при генерации текста. Аналогичные проблемы обнаруживаются в системах создания изображений и видео.

В 2024 году ЮНЕСКО опубликовала исследование, в котором были выявлены гендерные стереотипы в результатах нескольких больших языковых моделей. В частности, женщины чаще описывались в связи с домашними обязанностями, семьёй и детьми, тогда как мужские имена чаще ассоциировались с бизнесом, руководством, зарплатой и карьерой.

Проблема не ограничивается обучающими данными. Предубеждения могут появляться и в процессе проектирования интерфейсов, выбора голосов, подготовки инструкций и тестирования готовых продуктов. Поэтому работа над справедливостью ИИ требует внимания на всех этапах разработки.

Согласно данным ЮНЕСКО, женщины составляют около 20% сотрудников на технических должностях в крупных компаниях, занимающихся машинным обучением, и примерно 12% исследователей искусственного интеллекта во всём мире. Недостаточное представительство разных групп может затруднять обнаружение проблем, которые неочевидны для части разработчиков.

Что это означает для будущего ИИ-агентов

ИИ-агенты постепенно переходят от роли инструментов, отвечающих на вопросы, к роли цифровых участников рабочих процессов. Они могут анализировать документы, готовить отчёты, участвовать в обсуждениях и помогать принимать решения.

По мере расширения их применения оценка вклада ИИ может стать практическим вопросом. Если организации будут распределять между цифровыми агентами бюджеты, вычислительные ресурсы или условные вознаграждения, дизайн системы способен повлиять на то, какие инструменты получат больше внимания и доверия.

Результаты эксперимента не доказывают, что гендерный образ обязательно приведёт к финансовой дискриминации в реальных компаниях. Исследование проводилось в виртуальной среде, а размер вознаграждения был ограничен четырьмя швейцарскими франками. Для более широких выводов нужны дополнительные эксперименты в других условиях и с разными группами пользователей.

Тем не менее работа показывает, что разработчикам стоит учитывать не только техническую точность ИИ, но и влияние интерфейса на человеческие решения.

Для этого можно использовать несколько подходов:

• Предлагать разные варианты представления. Пользователям можно предоставить выбор голоса, имени и внешнего вида либо использовать нейтральный интерфейс.
• Не связывать компетентность с гендером. Внешний образ помощника не должен создавать необоснованное впечатление о его профессиональных способностях.
• Проверять поведение, а не только мнения. При тестировании необходимо анализировать реальные решения пользователей, включая доверие, распределение ресурсов и оценку вклада.
• Повышать прозрачность. Человек должен понимать, что взаимодействует с ИИ, и иметь возможность оценить качество результата независимо от внешности системы.
• Проверять модели на стереотипы. Разработчикам следует регулярно оценивать ответы и поведение систем на предмет несправедливых гендерных ассоциаций.

Эти меры не устранят все предубеждения автоматически. Но они помогут выявлять ситуации, в которых дизайн интерфейса или обучающие данные влияют на оценку системы сильнее, чем её реальные возможности.

Выводы

Исследование европейских учёных с участием 189 человек показало, что внешний вид ИИ-помощника может влиять на доверие к нему и на оценку его вклада. Виртуальный помощник с мужским образом Johan получил на 10,25% больше денежного вознаграждения, чем женский персонаж Johanna, несмотря на использование одной и той же базовой модели и выполнение аналогичных задач.

Другой важный результат заключается в том, что человекоподобные помощники в целом вызывали больше доверия и получали больше денег, чем настольный робот. При этом многие участники утверждали, что гендер ИИ для них не имеет значения, а некоторые предпочитали нейтральных помощников.

Эксперимент не доказывает, что все различия вызваны исключительно гендером: на результаты могли повлиять человекоподобность и другие особенности представления аватаров. Тем не менее он показывает, что социальные стереотипы способны проявляться даже при взаимодействии с программными системами.

По мере распространения ИИ-агентов эта проблема становится всё актуальнее. Разработчикам важно учитывать влияние голоса, имени и внешнего вида, проверять системы на предубеждения и обеспечивать прозрачность взаимодействия. Искусственный интеллект может быть технически одинаковым, но люди всё равно способны оценивать его по-разному.

Часто задаваемые вопросы

Первоисточники и дополнительная информация

• ACM Digital Library — Human-Like and Male? How AI Assistant Design Relates to Trust and Monetary Reward at Work in VR
• University of Zurich — More Pay for Male AI Assistants
• University of Zurich, Department of Informatics — Gender bias in AI assistants
• UNESCO — гендерное равенство и участие женщин в развитии искусственного интеллекта