ИИ выяснил, что сказки полны гендерных предубеждений. Надо что-то менять

Группа исследователей из нескольких университетов и компании IBM создала систему искусственного интеллекта, которая анализирует детские сказки и выявляет случаи гендерных предубеждений. Как показали ученые, в большинстве сказок, и классических, и современных, женщина — пассивна, и ее надо спасать. А этим занимается мужчина. С классикой ничего сделать уже нельзя, но новые сказки могут стать другими.
ИИ выяснил, что сказки полны гендерных предубеждений. Надо что-то менять
Unsplash.com

Белоснежка, Золушка и Спящая красавица имеют много общего. Не только потому что это классические сказочные персонажи Диснея. Эти сказки полны гендерных предубеждений и стереотипов, считает ИИ.

Группа исследователей из нескольких университетов и компании IBM создала систему искусственного интеллекта, которая анализирует детские сказки и выявляет случаи гендерных предубеждений.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

То, как сказки преподносят детям социокультурные роли, обсуждалось в научных кругах и за их пределами на протяжении десятилетий. Все эти истории полны принцесс, которых нужно спасать, и прекрасных принцев, которые их спасают.

По словам Дакуо Ванга, соавтора новой работы, есть надежда на то, что созданный его командой инструмент, управляемый ИИ и похожий на проверку орфографии, будет использоваться писателями и издателями для создания более правильных историй для детей.

«Если в будущем у меня родится девочка, я хочу, чтобы она была готова сама преодолеть трудности, а не ждала что кто-то придет и ее спасет», — говорит Ванг. — «Если мы сможем разработать технологию для автоматического обнаружения гендерных предубеждений и стереотипов, то это может, по крайней мере, послужить некоторой предупредительной сеткой для авторов новых историй, которые пишутся сегодня».

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
Unsplash.com
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Работа началась как часть исследования того, как ИИ может помочь сформировать навыки изучения языка у маленьких детей. Команда собрала сотни сказок со всего мира, чтобы использовать их в качестве «корпуса» для анализа работы обучающих алгоритмов. Оказалось, что независимо от того, откуда взяты сказки, все они содержат «упрямые и глубокие» гендерные стереотипы.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Принцесса съедает отравленное яблоко, попадает в руки коварного злодея, ее проклинает ведьма, она засыпает, но она сама не имеет возможности изменить ситуацию. В то же время мужские персонажи — принцы, короли и герои — убивают драконов, снимают проклятия и спасают принцесс. И так всегда.

Анализ повествования и цепочки событий

Unsplash.com
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Предыдущие исследования в этой области были сосредоточены на том, что Ванг называет «поверхностным уровнем» предвзятости. При анализе историй выявлялись пары слов или фраз, таких как «принц» и «храбрый», которые связывают качество и личность. Но Ванг и остальные члены команды хотели пойти глубже.

Они сосредоточились на «временных цепочках событий», в которых участвует персонаж. «Именно опыт и действия определяют, что это за человек, и эти действия влияют на наших читателей, показывают, что следует делать, а чего избегать», — говорит Ванг.

Используя корпус сказок, команда создала модель ИИ для извлечения имен и полов персонажей, связанных с каждым событием. Затем ученые выстроили эти события в цепочки для каждого персонажа. Они также автоматизировали процесс группировки событий и действий по определенным категориям. Каждое событие было проанализировано и получило коэффициент вероятности — насколько часто оно было связано с мужским или женским персонажем.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Инструмент филолога

Из 33 577 событий, проанализированных в ходе исследования, 69% были связаны с мужскими персонажами, а 31% — с женскими. События, связанные с женскими персонажами, чаще всего были связаны с домашними делами, такими как уход за собой, уборка, приготовление пищи и шитье, в то время как события, связанные с мужскими персонажами, были связаны с неудачами, успехом или агрессией.

Получив всю эту информацию, Ванг и его команда создали инструмент обработки естественного языка, который может не только анализировать отдельные события, но и находить предвзятость в цепочках событий.

«Ее кто-то спасает, она выходит замуж, а затем живет "долго и счастливо". Он убивает монстра, спасает принцессу и живет долго и счастливо», — говорит Ванг. — «Разница заключается не в том что, они "жили долго и счастливо", а в цепочке событий, которые происходят перед этим».

Инструмент можно использовать не только для анализа сказок, но и, например, для анализа гендерной предвзятости чат-ботов таких как ChatGPT. Модель, разработанная учеными, может стать и незаменимым инструментом филологов, например, при исследовании сюжетных линий.