Google удалила инструмент искусственного интеллекта для работы с изображениями в Earth всего через день после запуска из-за поддельных спутниковых снимков

В пятницу Google убрала из Google Earth новую функцию генерации изображений с помощью ИИ спустя всего день после ее запуска, поскольку пользователи начали создавать сфабрикованные спутниковые снимки, которые, по всей видимости, нарушали правила компании. Инструмент, работающий на базе модели Nano Banana 2 от компании, позволял любому пользователю приблизить реальное местоположение, ввести текстовый запрос и сгенерировать фотореалистичную аэрофотосцену, наложенную на подлинные координаты.

Нидерландский исследователь-разведчик Хенк ван Эсс (Henk van Ess) стал одним из первых, кто продемонстрировал эту проблему. В своем блоге под заголовком «Как построить атомную электростанцию в Иране» он показал, как с помощью односложных запросов можно всего за секунды разместить ядерный объект на территории Ирана, добавить беженцев на дорогу у мексиканской границы и пристроить больницу с воронкой от бомбы в секторе Газа — и все это поверх подлинных спутниковых снимков.

Он был не одинок. Редакция BBC Verify создала рухнувшую Эйфелеву башню, провал в грунте, поглотивший Великую пирамиду в Гизе, и российские танки в Киеве. AFP сгенерировало взрывы в Париже и тренировочный лагерь ИГИЛ в Сирии.

Информационное агентство 404 Media добавило небоскребы на земли сельхозназначения и разместило лагерь бездомных в Лос-Анджелесе. В каждом случае фальшивые изображения накладывались непосредственно на подлинные координаты и на первый взгляд неотличимы от реальных спутниковых снимков.

Беспокойство вызывает не то, что ИИ умеет создавать фальшивые картинки (он научился этому уже много лет назад), а то, что Google объединила сфабрикованные сцены с реальными координатами внутри платформы, которую журналисты, расследователи и аналитики разведки используют в качестве основного инструмента верификации. Ван Эсс отметил, что для удаления одного реального здания с карт Google Earth требуется официальный запрос правительственных органов, а для добавления фальшивого — всего одно предложение.

В заявлении, опубликованном на странице по связям с общественностью в X, представители Google отметили, что видели случаи использования новой функции геопрофессионалами в полезных целях, однако компания отзывает ее для внедрения более надежных защитных механизмов. Компания добавила, что ни одно из сгенерированных ИИ изображений не попало в основную платформу Google Earth, что означает ограничение созданных сцен исключительно инструментом генерации, без их смещения в базовый слой снимков.

Сгенерированные изображения содержали цифровой водяной знак Google SynthID — невидимую подпись, предназначенную для защиты от скриншотов и сжатия. Однако водяные знаки помогают только постфактум, когда кто-то уже знает, что нужно проверить изображение. Они никак не препятствуют распространению поддельного спутникового снимка в социальных сетях под видом настоящего, особенно в условиях динамично развивающихся конфликтов, где проверка фактов отстает от вирусного распространения.

Этот эпизод пополнил серию поспешных запусков и последующих отмен генеративных продуктов ИИ от Google. В 2024 году компания приостановила функцию генерации людей в Gemini после того, как та выдала исторически неточные изображения, и с тех пор переработала эти системы защиты. Откат в Google Earth следует тому же сценарию: функция выпускается широким тиражом, в первые же часы всплывают побочные проблемы, и компания сворачивает ее, чтобы добавить защитные механизмы, отсутствовавшие на момент запуска.