ИИ предлагает разные сценарии для взаимодействия с детьми. Один из самых популярных промтов: «расскажи мне сказку». Многие из родителей пошли дальше, они создают персонализированные сказки для детей. Сервисы вроде Gemini Storybook позволяют буквально за минуты сгенерировать иллюстрированную историю с именем ребенка и любимыми героями. Но в таких историях почти нет места для женских персонажей.
Исследователи из Вашингтонского университета проверили, как шесть ведущих языковых моделей создают детские истории про говорящих животных. Они проанализировали пол персонажей в 23 800 текстов. Результат шокирует: только 2% персонажей оказались женского пола, 41% — мужского, а 57% — гендерно нейтральными или без указания пола.
Главная боль здесь в том, что мы хотим давать детям более инклюзивные истории, а получаем контент, где «женское» фактически исчезает.
Как работает гендер в детских сказках: человек vs ИИ
Еще до эпохи нейросетей в детских книгах про животных доминировали мужские персонажи. В прошлом году, в исследовании 300 популярных детских книг большинство животных были «самцами» — за редкими исключениями вроде кошек, уток или птиц. Даже лягушка и волк, более чем в 90% случаев были самцами.
Когда ученые попросили 1300 человек написать короткие рассказы про говорящих животных, мужской уклон усилился: люди почти автоматически делали животных «самцами».
Нейросети, обученные на рассказах написанных людьми, не исправили эту ситуацию — они ее усугубили. Проще говоря: ИИ не придумывает новый мир, он отражает и усиливает наш старый.
Почему нейросети «обесценивают» женских персонажей
Какие модели дают самый сильный перекос
Читать другие статьи:
info@informationsupport.ru