Google Earth рисковал потерпеть крах, отозвав инструмент искусственного интеллекта для создания поддельных спутниковых снимков.

«Что, собственно, делает Google?» Опасения по поводу дезинформации приводят к отказу от использования инструмента искусственного интеллекта.

Изображение, созданное с помощью искусственного интеллекта и временно доступной функции Google Earth, демонстрирует имитацию места катастрофы в Googleplex, штаб-квартире Google и Alphabet в Маунтин-Вью, Калифорния. (Источник : Google Earth)

Компания Google на короткое время разрешила любому желающему создавать версии спутниковых снимков, модифицированных с помощью ИИ, которые доступны в Google Earth, — но быстро отменила свое решение после того, как люди поделились примерами сгенерированных ИИ изображений, демонстрирующими потенциал для распространения дезинформации и ложных сведений.

Уже существует множество инструментов генеративного ИИ, позволяющих создавать модифицированные ИИ изображения реальных зданий и городов на основе запросов пользователей. Однако неудачная попытка Google интегрировать свой генератор изображений Nano Banana 2 в качестве функции Google Earth еще больше упростила создание модифицированных версий подлинных изображений, отображающих реальные места — именно этим Google и хвастался при первоначальном продвижении новой функции.

«Впервые вы можете создавать собственные изображения, используя спутниковые, аэрофотоснимки и 3D-изображения Google Earth, а также Nano Banana, которая создает концепции, основанные на реальном мире», — написал Брайан Горовиц, менеджер по продуктам Google Earth, в сообщении в блоге компании от 30 июля.

Эта возможность глубоко встревожила исследователей, которые часто используют Google Earth для проверки изображений и видео мест в то время, когда в интернете широко распространилась дезинформация и ложные сведения, созданные с помощью ИИ. Они показали, как новая функция может упростить процесс создания ложных сценариев, наложенных на фотореалистичные изображения Google Earth.

«В Google Earth, инструменте, часто используемом в качестве источника спутниковых снимков для проверки фотографий и видео, появилась функция, позволяющая изменять спутниковые снимки с помощью ИИ, и на то есть определенные причины», — написал Элиот Хиггинс, основатель независимой следственной организации Bellingcat, в сообщении на сайте Bluesky, комментируя появление этой функции ИИ.

«Ни за что этим нельзя злоупотреблять», — саркастически добавил Хиггинс в последующем посте, где было размещено изображение, обработанное искусственным интеллектом в Google Earth, на котором изображена гигантская золотая статуя президента Дональда Трампа, возвышающаяся над Белым домом.

В течение суток Google объявила в социальной сети X о том, что отменяет эту функцию. Вскоре после этого Ars проверила ситуацию и обнаружила, что эта функция стала недоступна пользователям Google Earth.

До удаления функции искусственного интеллекта Google рекламировал её потенциал, позволяющий пользователям Google Earth отображать завершенные проекты в сфере недвижимости или давать учителям и ученикам возможность превратить современные руины Помпеи в «гиперреалистичное изображение» того, как выглядел город в 78 году н.э. во времена Римской империи. Однако независимые исследователи сразу же обратили внимание на потенциальную возможность злоупотребления этой функцией.

«Сегодня вечером я ввел всего одно предложение в Google Earth и разместил беженцами место недалеко от мексиканской границы», — написал независимый исследователь Хенк ван Эсс в обширном посте в блоге 30 июля, подробно описывая свои опасения. «Затем я разместил атомную электростанцию в Иране. Потом я разместил смертельную аварию на улице Амстердама. И все три события — под собственными спутниковыми снимками Google. Что, черт возьми, делает Google?»

Проверка на наличие дезинформации

Эсс указал на предыдущий пример распространения дезинформации, сгенерированной искусственным интеллектом, в которой использовалась спутниковая фотография Google Earth штаб-квартиры Пятого флота ВМС США в Манаме, Бахрейн. Мошенник заставил голосового помощника Google Gemini преобразовать скриншот этого изображения Google Earth в ложное изображение, демонстрирующее последствия удара иранского беспилотника по американской военной базе.

По словам Эсса, тот же процесс, который раньше занимал около шести шагов, теперь можно выполнить «за считанные секунды» с помощью встроенного в Google Earth инструмента искусственного интеллекта.

Прежде чем окончательно удалить функцию Google Earth, Google первоначально ответила Эссу, подчеркнув свою систему SynthID, которая автоматически встраивает цифровые водяные знаки в изображения, созданные инструментами искусственного интеллекта Google.

«Мы серьезно относимся к дезинформации — каждое изображение, созданное с помощью Nano Banana в Google Earth, содержит цифровой водяной знак SynthID, поэтому, если кто-то сомневается в изображении, он может обратиться в приложение Gemini или использовать Lens в поиске, чтобы проверить, было ли изображение сгенерировано искусственным интеллектом», — говорится в сообщении Google на X от 30 июля. «Кроме того, мы предотвращаем создание изображений на вредоносные темы и постоянно обновляем наши средства защиты».

Предыдущие тесты системы SynthID от Google, проведенные Ars, показали, что цифровой водяной знак Google может сохраняться, несмотря на существенную обработку изображений и потерю данных. Однако Ars также столкнулся с проблемой ограничения количества проверок изображений системой SynthID примерно до 10 в день.

Когда Ars предложил приложению Google Gemini проверить несколько изображений, созданных с помощью ИИ в Google Earth (до того, как Google удалила эту функцию), с помощью SynthID, Gemini ответило, что «обнаружило цифровые водяные знаки, указывающие на то, что часть или все изображение было создано или отредактировано с использованием инструментов Google AI».

Однако Эсс задался вопросом, почему политика Google по предотвращению создания изображений, сгенерированных ИИ, на вредоносные темы не остановила его от изображения таких сцен, как больница с воронкой от бомбы в Газе. Он также выразил скептицизм по поводу того, что для проверки того, является ли изображение сгенерированным ИИ, следует в первую очередь полагаться на систему водяных знаков SynthID от Google и инструменты Google на основе ИИ.

«Подделки не распространяются в виде чистых файлов с нетронутыми учетными данными, — написал Эсс. — Они распространяются в виде записей экрана, перекодированных файлов, скриншотов скриншотов, снятых на чей-то телефон в спешке».

Действительно, сервис SynthID от Google не смог подтвердить подлинность изображения, когда Ars использовал камеру смартфона для съемки фотографии изображения, обработанного искусственным интеллектом с помощью функции Google Earth.

Подрыв доверия

Эсс отметил, что, внедрив генератор изображений на основе ИИ в качестве функции Google Earth, Google рисковал подорвать доверие общественности к Google Earth как к надежному источнику достоверных изображений реального мира. Это также могло дать дополнительный повод правительственным чиновникам или любому, кто хочет отрицать подлинность спутниковых снимков, утверждая, что они были изменены или созданы исключительно с помощью инструментов ИИ.

Предоставление любому желающему простого инструмента для создания спутниковых снимков, модифицированных с помощью ИИ, могло бы также еще больше затруднить журналистам и исследователям проверку дезинформации и ложных сведений. Эсс рекомендовал использовать несколько источников для проверки спутниковых снимков и полагаться на постоянно обновляемые источники спутниковых снимков, такие как европейский Copernicus Sentinel-2.

Возможно, Google удалось развеять непосредственные опасения, быстро удалив инструмент искусственного интеллекта из Google Earth, но в заявлении компании предполагалось, что она может вернуть эту функцию в будущем.

«Мы видели, как специалисты в области геопространственных технологий используют эту функцию для целого ряда полезных целей, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила», — говорится в заявлении Google. «Поэтому мы отключаем эту функцию в Google Earth, пока работаем над внедрением более строгих мер защиты».

Источник: arstechnica.com