Идея звучала вполне безобидно: наводишь на любую точку на карте, нажимаешь кнопку «создать изображение», пишешь, что хочешь увидеть, — и получаешь результат. Нейросеть можно было бы использовать для обучения, разработки архитектурных чертежей. В общем, мечта. Только вот мечта эта продержалась меньше суток.
Nano Banana в Google Earth: как нейросеть превратила карты мира в фабрику фейков

Что такое Nano Banana в Google Earth?
Функция позволяла пользователям накладывать сгенерированные ИИ изображения прямо на реальные спутниковые снимки. Например, вы могли показать руины Помпей и попросить нейросеть «оживить» их — и она рисовала оживленную улицу Римской империи. Можно было создать инфографику о Статуе Свободы или представить пустырь в Токио как современный торговый центр.
Но, как это часто бывает с технологиями, которые дают пользователям слишком много свободы, интернет сделал то, что умеет лучше всего: нашел способ использовать инструмент не по назначению.
Как пользователи заруинили Google Earth
Проблема началась буквально в первые часы после запуска. Пользователи быстро поняли, что нейросеть не проверяет, что именно вы просите сгенерировать. И понеслось.
Один из первых громких случаев: ИИ-исследователь Хенк ван Эсс создал реалистичные изображения фальшивых лагерей беженцев на границе США и Мексики, а также атомной электростанции в Иране. Другой пользователь сгенерировал изображение наводнения там, где его никогда не было. Кто-то «посадил» самолет в новую башню Всемирного торгового центра в Нью-Йорке.
Почему нам не до смеха
Google Earth десятилетиями был эталоном надежности. Журналисты, следователи, спасатели и обычные люди привыкли доверять этим картам. А здесь — и комментарии излишни...
Исполнительный директор Лаборатории гуманитарных исследований Йельской школы здравоохранения (Йельский университет признан Генпрокуратурой России нежелательной организацией) Натаниэль Рэймонд призвал Google в Х немедленно отказаться от этой функции.
Реакция компании не заставила себя ждать. Уже через день после запуска, 31 июля, Google выпустила обновление, отметив: «Мы знаем, что люди исключительно доверяют Google Earth как надежному источнику изображения мира. Мы видели, как специалисты в области геопространственных технологий используют эту функцию для целого ряда полезных целей, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы отменяем эту функцию в Google Earth, пока работаем над внедрением более строгих мер защиты. Важно отметить, что сгенерированные изображения не отображались в основной версии Google Earth для просмотра другими пользователями и были помечены как сгенерированные искусственным интеллектом».




