Попытка Google сделать изображения Земли более креативными сразу же упёрлась в более сложный вопрос: что происходит, когда широко используемый и заслуживающий доверия справочный инструмент может создавать правдоподобные постановочные сцены реальности? Менее чем через сутки после запуска компания отозвала эту функцию.

Nano Banana 2 была добавлена в веб-версию Google Earth, чтобы позволить пользователям генерировать изображения на основе спутниковых, аэрофотоснимков и 3D-изображений. Google и её сторонники представляли эту возможность как способ визуализировать исторические места, планируемую застройку и общественные проекты; в анонсе пользователям предлагали представить себе город, каким он был сто лет назад, или визуализировать новую местную баскетбольную площадку.Demis Hassabis (demishassabis)¹

Однако исследователи и журналисты увидели более серьёзный риск. Функция объединила генеративный ИИ с изображениями, которые расследователи регулярно используют, чтобы установить, где были сделаны фото и видео. Хенк ван Эсс продемонстрировал, что одного запроса достаточно, чтобы разместить «беженцев у мексиканской границы», атомную электростанцию в Иране и смертельную аварию в Амстердаме поверх базового изображения Google.² В других тестах был сгенерирован воронка от бомбы рядом с больницей в Газе, что усилило опасения, что ложные заявления смогут заимствовать доверие у знакомой картографической платформы.³

Сначала Google ссылалась на водяные знаки SynthID и заявляла, что блокирует вредоносные запросы на создание изображений. Но критики утверждали, что скриншоты, перекодированные ролики и записи могут убрать контекстуальные подсказки, необходимые для проверки. Ван Эсс сообщил, что видео, созданное с помощью инструмента, обмануло детектор ИИ от Hive, а его тестирование подсказов показало, что «ничто не было отклонено, ничто не было смягчено, и ничто не предложило мне попробовать другой запрос».⁴

В конечном счёте компания признала ключевую проблему: пользователи «в уникальной степени доверяют Google Earth как надёжному взгляду на мир». Она заявила, что специалисты по геопространственным данным нашли полезные варианты применения, но скриншоты сгенерированных изображений, по-видимому, нарушали политику, что и привело к откату функции, пока разрабатываются «более сильные защитные барьеры».⁵ Этот шаг устраняет непосредственный риск, но не решает более широкую проблему: ИИ-инструменты уже упростили манипуляции по всему интернету, тогда как проверка подлинности теперь всё чаще требует сверки с независимыми спутниковыми источниками и метаданными.⁶