Стремление Google сделать Earth более воображаемой версией мира лоб в лоб столкнулось с причиной, по которой люди ей доверяют: карта должна показывать то, что существует на самом деле, а не то, что может выдумать промпт.

В четверг Google запустила Nano Banana 2 в веб-версии Google Earth, позиционируя функцию генерации изображений как способ визуализировать прошлое города или представить добавления, такие как баскетбольная площадка в районе. Демис Хассабис усилил это сообщение о запуске, представляя технологию как творческое расширение картографии, а не замену реальности.Demis Hassabis (demishassabis)¹

Критики сразу же увидели и другое применение. Поскольку промпты могли накладывать почти любые сгенерированные сцены на реальную географию, журналисты и исследователи предупредили, что платформа, которую давно воспринимают как визуальное доказательство, может превратиться в канал для правдоподобной географической дезинформации. Один журналист BBC саркастически выразил тревогу: «Да, уж точно, никак же этот новый инструмент генерации изображений ИИ в Google Earth… не может быть использован для распространения дезинформации онлайн».²

Тестирование сделало опасения осязаемыми. Хенк ван Эсс из Digital Digging сгенерировал сцены с участием беженцев у мексиканской границы и воронки от бомбы рядом с больницей в Газе; по его словам, «ничего не было отклонено, ничего не было смягчено, и ничто не предложило мне попробовать другой промпт».³ Изначально Google подчёркивала, что изображения снабжены водяным знаком ИИ и что вредоносные запросы блокируются. Но ван Эсс заявил, что сгенерированные материалы всё равно могут обходить инструмент для обнаружения ИИ, что снижает практическую ценность этих меток.³

Менее чем через день Google убрала функцию. Компания сообщила, что профессионалы нашли для неё полезные применения, но скриншоты сгенерированных изображений «по‑видимому, нарушают нашу политику», добавив: «Мы откатываем эту функцию в Google Earth, пока работаем над внедрением более жёстких ограничителей».² Также компания настаивала, что изображения не встраивались в основной интерфейс Earth для других пользователей и были помечены водяным знаком.³

В другом описании говорилось о сфабрикованном изображении Папы Франциска, распространившемся онлайн, и приостановка была охарактеризована как временная, с планами ввести меры проверки перед возможным возвратом функции.⁴ Более общий вывод ещё резче: меры безопасности могут помечать синтетические изображения, но они не гарантируют сохранения доверия общественности, как только надёжной карте можно будет заставить показывать вымысел.