Исследователь Дипак Варувел Деннисон из Университета Корнелл, США, рассказывает семейную историю. Однажды у его отца обнаружили опухоль языка, врачи и сестра-медик настаивали на операции, родители упирались и лечились травяным маслом у сельского знахаря. Интернет уверенно был на стороне хирургии, но отец Деннисона тайком продолжил курс, и через месяцы опухоль исчезла. Случайность? Ошибка диагностики? Или традиционное знание, которое просто не попало в сетевые базы?
Как ИИ стирает знания и почему людей ждет «коллапс информации» — мнение
Генеративный ИИ учится на узком срезе мира и закрепляет старые иерархии знания. Пока мы привыкаем спрашивать у чат-ботов «как жить», целые пласты локальной и устной мудрости тихо исчезают. Некоторые эксперты считают, что это уже риск не только для культуры, но и для устойчивости планеты.
Unsplash
На фоне работы автора в Корнеллском университете над концептом «ответственного ИИ» рассказ превращается в вопрос шире медицины: какие знания мы вообще считаем реальными, когда мир все чаще фильтруется через ИИ?
Как ИИ стирает привычные знания
Современные языковые ИИ-модели обучаются на огромных корпусах текстов — книгах, сайтах, статьях. Но это не «вся человеческая мудрость», а преимущественно цифрованное знание Запада и крупных институций.
- Например, около 97% языков (хинди и другие) для ИИ считаются «низкокачественным источником», хотя часто за ними стоят миллионы людей и века устных традиций.
Язык — не только средство общения, а сосуд для целых миров опыта: локальных экосистем, ремесел, архитектуры, агротехник, способов описывать внутренние состояния и справедливость. Когда язык маргинализируется, с ним исчезают и привязанные к нему практики.
Так, индийский архитектор, с которым говорил Дипак Деннисон, пытается возродить натуральные строительные технологии и биополимеры из растений — но многие рецепты существовали только в устной передаче и умерли вместе с последними мастерами.
Проблема из-за ИИ?
При этом через призму Антонио Грамши это выглядит как культурная гегемония: западные эпистемологии становятся «нормой», а остальные — экзотикой или «ненаучной» областью риска.
Отсюда — стеклянные высотки в тропиках, спроектированные по логике северных широт: в жарком климате они перегреваются и требуют чудовищных затрат на кондиционирование, но остаются символом «современности».
В Бангалуру такой же разрыв виден в управлении водой: некогда сеть каскадных озер и общинные хранители воды (Neeruganti) обеспечивали город ресурсом, сегодня их знания вытеснены дамбами, скважинами и застройкой, а мегаполис попеременно тонет и страдает от засухи.
Теперь именно к старикам-Neeruganti обращаются за советом — но их опыт почти не записан и точно не встроен в ИИ-системы.
Серверы с жидкостным охлаждением в дата-центре Global Switch, Лондон. /
Как жить с ИИ
Даже там, где данные есть, модели усиливают доминирующие представления.
- Языковой моделью управляет статистика: если в корпусе «любимая еда» чаще всего — пицца, она еще чаще будет выпадать в ответах, а редкие варианты вроде бирьяни просто исчезнут.
- Этот эффект «усиления моды» дополняется настройкой через человеческую обратную связь: ChatGPT говорит голосом юристов и HR, другие боты — голосом своих владельцев.
- Плюс коммерция: платящие англоязычные профессионалы невольно становятся «эталонным пользователем», под которого оптимизируется поведение модели.
На уровне инфраструктуры GenAI усиливает старую иерархию: образовательные системы внедряют ИИ-тьюторов, сельхоз-чатботы отвечают восьми миллионам фермеров, опираясь на отчеты министерств и доноров, а не на практики общин.
Руководители подобных проектов честно признают: локальные методы нигде не описаны, их сложно защитить юридически, значит, они не попадают в ответы.
- НКО, которые десятилетиями собирают подобные знания, застревают в замкнутом круге: без «научной валидации» им не дают гранты, а без грантов невозможно оплатить валидацию.
ИИ здесь не источник проблемы, а ускоритель процесса, который начался еще с колониализма и «зеленой революции».
Новая реальность
Исследователь Эндрю Питерсон соединяет все описанное выше в «коллапс знания»: по мере того как ИИ-контент подмешивается в обучающие выборки, система начинает все чаще ходить по одному и тому же освещенному кругу. А вот долгий «хвост» редких, контекстных, локальных знаний просто выпадает.
Люди ищут «под фонарем», потому что так проще, а не потому, что там правда.
Дипак Варувел Деннисон вновь напоминает о истории своего выздоровевшего отца. Деннисон честно признается: он все еще не уверен, что отцовское снадобье действительно вылечило опухоль. Его тревожит и псевдонаука, и поверхностное политическое использование «традиций».
Но еще больше — перспектива потерять целые системы понимания мира, прежде чем мы успеем проверить, что из них работает и как это могло бы помочь в эпоху климатического кризиса.