Эксперименты показывают, что тексты, созданные человеком с помощью ИИ, становятся более похожими друг на друга. Более того, алгоритмы способны незаметно изменять убеждения людей, склоняя их к усредненной позиции системы, что создает эффект «когнитивного захвата» и оставляет «творческие шрамы» даже после прекращения работы с моделью.
Распространение ИИ заставляет людей думать одинаково
Широкое распространение генеративного ИИ заставляет исследователей задуматься о стандартизации мышления и культуры. Постоянное использование языковых моделей приводит к стиранию уникальных языковых особенностей, снижает разнообразие идей и упрощает стиль речи.
В облаке. Nature. Paweł Jońca
Потери разнообразия. В исследовании ученых из США и Индии участникам предложили описать любимые ритуалы и написать письмо с помощью инструмента автозаполнения (аналог T9) на базе ИИ. Использование подсказок алгоритма резко снизило национальную специфику текстов: индийцы стали формулировать мысли по-американски, а описания традиционных праздников, таких как Дивали, лишились ярких деталей и превратились в шаблонные фразы.
Нейросеть.
Эмили Венгер, специалист по информатике из Университета Дьюка, предупреждает об опасности явления: «Если мы все будем использовать ИИ для написания наших электронных писем или чего-либо еще, кем мы станем как вид?»
Пути преодоления стирания различий
А ты не врешь?
Продолжение ниже
Видео
Продолжение
Технические и психологические причины этого эффекта кроются в нехватке разнообразных обучающих данных, стремительном наплыве сгенерированного контента в интернет и человеческой склонности полагаться на алгоритмы как на источник авторитетного мнения.
Ученые уже разрабатывают методы борьбы с деградацией разнообразия: от внедрения специальных алгоритмов подкрепления и варьирования промптов до генерации идей через сложный контекст и многокультурное моделирование. Хотя культура обладает высокой устойчивостью, а стремление людей сохранить свою индивидуальность может породить мощное анти-ИИ движение, масштабы внедрения технологий делают проблему стирания личности крайне серьезной.
Загружаем