Система обнаружения дипфейков Google использовалась для опровержения фейкового изображения Макконнелла.

Вкратце

Опубликовано:

• Рассел Брэндом

Система обнаружения дипфейков Google использовалась для опровержения фейкового изображения Макконнелла.

Система SynthID от Google была использована для опровержения громкого фейкового изображения, созданного с помощью искусственного интеллекта, что стало редкой, но значительной победой для системы.

Ранее на этой неделе в интернете распространилась фотография, на которой, как казалось, изображен сенатор от Кентукки Митч Макконнелл, лежащий в больничной койке, весь в трубках, в состоянии крайнего стресса. Изображение широко распространилось на Reddit и X, но к среде авторитетный сайт проверки фактов Snopes опроверг его, отметив, что при проверке на наличие водяного знака SynthID, разработанного Google для идентификации изображений, созданных искусственным интеллектом, на изображении присутствует этот знак.

Короче говоря, водяной знак сработал именно так, как и должен был, что стало победой для технологии защиты от дипфейков.

Состояние здоровья сенатора Макконнелла стало предметом интенсивных спекуляций с тех пор, как он был госпитализирован после экстренного вызова 14 июня. С тех пор он практически не появлялся на публике, что подпитывало предположения о возможном ухудшении его здоровья. Однако в данном случае доказательства оказались полностью сфабрикованными.

Представленная на конференции разработчиков Google I/O в 2025 году, технология SynthID работает как невидимая сигнатура, видимая для алгоритмов SynthID, но незаметная для обычного наблюдателя. Поскольку сигнатура встроена в само изображение, она сохраняется даже при захвате экрана на разных платформах, как это произошло с изображением Макконнелла.

Главное ограничение SynthID заключается в том, что его можно использовать только в том случае, если инструмент генерации изображений активно участвует в программе. Модели Gemini включают водяной знак с момента запуска программы в 2025 году. OpenAI присоединился в мае 2026 года в рамках более широких усилий по борьбе со злонамеренной генерацией изображений. Anthropic не участвует в программе.

Пользователи могут проверить наличие водяного знака на изображениях, обратившись к модели Gemini или загрузив их в общедоступный инструмент проверки изображений OpenAI.

Источник: techcrunch.com