ИИ выяснил, что сказки полны гендерных предубеждений. Надо что-то менять
Белоснежка, Золушка и Спящая красавица имеют много общего. Не только потому что это классические сказочные персонажи Диснея. Эти сказки полны гендерных предубеждений и стереотипов, считает ИИ.
Группа исследователей из нескольких университетов и компании IBM создала систему искусственного интеллекта, которая анализирует детские сказки и выявляет случаи гендерных предубеждений.
То, как сказки преподносят детям социокультурные роли, обсуждалось в научных кругах и за их пределами на протяжении десятилетий. Все эти истории полны принцесс, которых нужно спасать, и прекрасных принцев, которые их спасают.
По словам Дакуо Ванга, соавтора новой работы, есть надежда на то, что созданный его командой инструмент, управляемый ИИ и похожий на проверку орфографии, будет использоваться писателями и издателями для создания более правильных историй для детей.
«Если в будущем у меня родится девочка, я хочу, чтобы она была готова сама преодолеть трудности, а не ждала что кто-то придет и ее спасет», — говорит Ванг. — «Если мы сможем разработать технологию для автоматического обнаружения гендерных предубеждений и стереотипов, то это может, по крайней мере, послужить некоторой предупредительной сеткой для авторов новых историй, которые пишутся сегодня».
Работа началась как часть исследования того, как ИИ может помочь сформировать навыки изучения языка у маленьких детей. Команда собрала сотни сказок со всего мира, чтобы использовать их в качестве «корпуса» для анализа работы обучающих алгоритмов. Оказалось, что независимо от того, откуда взяты сказки, все они содержат «упрямые и глубокие» гендерные стереотипы.
Принцесса съедает отравленное яблоко, попадает в руки коварного злодея, ее проклинает ведьма, она засыпает, но она сама не имеет возможности изменить ситуацию. В то же время мужские персонажи — принцы, короли и герои — убивают драконов, снимают проклятия и спасают принцесс. И так всегда.
Анализ повествования и цепочки событий
Предыдущие исследования в этой области были сосредоточены на том, что Ванг называет «поверхностным уровнем» предвзятости. При анализе историй выявлялись пары слов или фраз, таких как «принц» и «храбрый», которые связывают качество и личность. Но Ванг и остальные члены команды хотели пойти глубже.
Они сосредоточились на «временных цепочках событий», в которых участвует персонаж. «Именно опыт и действия определяют, что это за человек, и эти действия влияют на наших читателей, показывают, что следует делать, а чего избегать», — говорит Ванг.
Используя корпус сказок, команда создала модель ИИ для извлечения имен и полов персонажей, связанных с каждым событием. Затем ученые выстроили эти события в цепочки для каждого персонажа. Они также автоматизировали процесс группировки событий и действий по определенным категориям. Каждое событие было проанализировано и получило коэффициент вероятности — насколько часто оно было связано с мужским или женским персонажем.
Инструмент филолога
Из 33 577 событий, проанализированных в ходе исследования, 69% были связаны с мужскими персонажами, а 31% — с женскими. События, связанные с женскими персонажами, чаще всего были связаны с домашними делами, такими как уход за собой, уборка, приготовление пищи и шитье, в то время как события, связанные с мужскими персонажами, были связаны с неудачами, успехом или агрессией.
Получив всю эту информацию, Ванг и его команда создали инструмент обработки естественного языка, который может не только анализировать отдельные события, но и находить предвзятость в цепочках событий.
«Ее кто-то спасает, она выходит замуж, а затем живет "долго и счастливо". Он убивает монстра, спасает принцессу и живет долго и счастливо», — говорит Ванг. — «Разница заключается не в том что, они "жили долго и счастливо", а в цепочке событий, которые происходят перед этим».
Инструмент можно использовать не только для анализа сказок, но и, например, для анализа гендерной предвзятости чат-ботов таких как ChatGPT. Модель, разработанная учеными, может стать и незаменимым инструментом филологов, например, при исследовании сюжетных линий.