Узнайте все о SynthID, о том, как он внедряет невидимые водяные знаки ИИ, и как он проверяет и идентифицирует контент, созданный ИИ, в тексте, изображениях, аудио и видео.
Изображение предоставлено автором.
# Введение
По мере того как медиаконтент, созданный с помощью ИИ, становится все более мощным и распространенным, отличить контент, созданный ИИ, от контента, созданного человеком, становится все сложнее. В ответ на такие риски, как дезинформация, дипфейки и неправомерное использование синтетического контента, Google DeepMind разработала SynthID — набор инструментов, которые внедряют незаметные цифровые водяные знаки в контент, созданный ИИ, и позволяют в дальнейшем надежно идентифицировать этот контент.
Встраивая водяные знаки непосредственно в процесс создания контента, SynthID помогает подтвердить происхождение и способствует прозрачности и доверию к системам искусственного интеллекта. SynthID распространяется на текст, изображения, аудио и видео, предоставляя персонализированные водяные знаки для каждого из них. В этой статье я объясню, что такое SynthID, как он работает и как вы можете использовать его для нанесения водяных знаков на текст.
# Что такое SynthID?
В основе SynthID лежит система цифрового водяного знака и обнаружения, разработанная для контента, созданного искусственным интеллектом. Это система водяного знака, которая внедряет незаметные сигналы в текст, изображения и видео, созданные ИИ. Эти сигналы сохраняются после сжатия, изменения размера, обрезки и распространенных преобразований. В отличие от подходов, основанных на метаданных, таких как Coalition for Content Provenance and Authenticity (C2PA), SynthID работает на уровне модели или пикселя. Вместо добавления метаданных после генерации, SynthID внедряет скрытую сигнатуру в сам контент, закодированную таким образом, что она невидима или неслышна для человека, но обнаруживается алгоритмическими сканерами.
Цель разработки SynthID — сделать его незаметным для пользователей, устойчивым к искажениям и надежно распознаваемым программным обеспечением.
SynthID интегрирован в модели искусственного интеллекта Google, включая Gemini (текст), Imagen (изображения), Lyria (аудио) и Veo (видео). Он также поддерживает такие инструменты, как портал SynthID Detector, для проверки загруженного контента.
// Почему SynthID важен
Генеративный ИИ способен создавать высокореалистичные тексты, изображения, аудио- и видеоматериалы, которые трудно отличить от контента, созданного человеком. Это влечет за собой такие риски, как:
- Видеоролики, созданные с помощью технологии Deepfake, и сфабрикованные медиафайлы.
- Дезинформация и вводящий в заблуждение контент
- Несанкционированное повторное использование контента, созданного с помощью ИИ, в контекстах, где требуется прозрачность.
SynthID предоставляет оригинальные маркеры, которые помогают платформам, исследователям и пользователям отслеживать происхождение контента и определять, был ли он создан синтетическим путем.
// Технические принципы нанесения водяных знаков SynthID
Подход SynthID к нанесению водяных знаков основан на стеганографии — искусстве сокрытия сигналов внутри других данных таким образом, чтобы наличие скрытой информации было незаметным, но могло быть восстановлено с помощью ключа или детектора.
Основные цели проектирования:
- Водяные знаки не должны снижать качество контента, воспринимаемого пользователем.
- Водяные знаки должны сохраняться при распространенных изменениях, таких как сжатие, обрезка, шум и фильтры.
- Водяной знак должен достоверно указывать на то, что контент был сгенерирован моделью ИИ с использованием SynthID.
Ниже описано, как SynthID реализует эти цели для различных типов носителей.
# Текстовые медиафайлы
// Вероятностная водяная маркировка
SynthID внедряет сигналы в процессе генерации текста, манипулируя распределениями вероятностей, используемыми большими языковыми моделями (LLM) при выборе следующего токена (слова или части токена).
Преимущество этого метода заключается в том, что генерация текста по своей природе носит вероятностный и статистический характер; небольшие контролируемые корректировки не влияют на качество выходного результата, обеспечивая при этом отслеживаемую подпись.
# Изображения и видеоматериалы
// Водяные знаки на уровне пикселей
Для изображений и видео SynthID внедряет водяной знак непосредственно в сгенерированные пиксели. В процессе генерации, например, с помощью модели диффузии, SynthID незаметно изменяет значения пикселей в определенных местах.
Эти изменения незначительны и не заметны для человека, но кодируют машиночитаемый шаблон. В видео водяные знаки наносятся покадрово, что позволяет обнаруживать изменения во времени даже после таких преобразований, как обрезка, сжатие, шум или фильтрация.
# Аудиомедиа
// Визуальное кодирование
В случае аудиоконтента процесс нанесения водяных знаков использует спектральное представление звука.
- Преобразовать звуковой сигнал в частотно-временное представление (спектрограмму).
- Закодируйте рисунок водяного знака в спектрограмме, используя методы кодирования, соответствующие психоакустическим (звуковосприятие) свойствам.
- Восстановите форму волны из модифицированной спектрограммы таким образом, чтобы встроенный водяной знак оставался незаметным для человеческого слуха, но обнаруживался детектором SynthID.
Этот подход гарантирует, что водяной знак останется различимым даже после таких изменений, как сжатие, добавление шума или изменение скорости, хотя следует помнить, что радикальные изменения могут снизить его различимость.
# Обнаружение и проверка водяных знаков
После внедрения водяного знака система обнаружения SynthID проверяет контент, чтобы определить, существует ли скрытая подпись.
Такие инструменты, как портал SynthID Detector, позволяют пользователям загружать медиафайлы для сканирования на наличие водяных знаков. Функция обнаружения выделяет области с сильными сигналами водяных знаков, что позволяет проводить более детальную проверку подлинности.
# Сильные и слабые стороны SynthID
SynthID разработан для работы с типичными преобразованиями контента, такими как обрезка, изменение размера и сжатие изображений/видео, а также добавление шума и преобразование аудиоформатов. Он также обрабатывает незначительные правки и перефразирование текста.
Однако существенные изменения, такие как радикальные правки, агрессивное перефразирование и преобразования, не связанные с ИИ, могут снизить обнаруживаемость водяного знака. Кроме того, обнаружение с помощью SynthID в основном работает с контентом, созданным моделями, интегрированными с системой водяных знаков, такими как модели ИИ Google. Оно может не обнаруживать контент ИИ из внешних моделей, не имеющих интеграции с SynthID.
# Применение и более широкое влияние
К основным вариантам использования SynthID относятся следующие:
- Проверка оригинальности контента позволяет отличить контент, созданный искусственным интеллектом, от контента, созданного человеком.
- Борьба с дезинформацией, например, отслеживание происхождения синтетических медиаматериалов, используемых в вводящих в заблуждение повествованиях.
- Источники информации в СМИ, платформы для обеспечения соответствия нормативным требованиям и регулирующие органы могут помочь отслеживать происхождение контента.
- Научная и академическая добросовестность, поддержка копирования и ответственного использования ИИ.
Внедряя постоянные идентификаторы в выходные данные ИИ, SynthID повышает прозрачность и доверие в экосистемах генеративного ИИ. По мере роста внедрения водяные знаки могут стать стандартной практикой на платформах ИИ в промышленности и научных исследованиях.
# Заключение
SynthID представляет собой значительный шаг вперед в области отслеживания контента с помощью ИИ, внедряя криптографически стойкие, незаметные водяные знаки непосредственно в сгенерированный медиаконтент. Используя специфические для модели факторы, влияющие на вероятность появления токенов в тексте, модификацию пикселей для изображений и видео, а также кодирование спектрограмм для аудио, SynthID обеспечивает практический баланс между невидимостью, прочностью и обнаруживаемостью без ущерба для качества контента.
По мере дальнейшего развития генеративного ИИ такие технологии, как SynthID, будут играть все более важную роль в обеспечении ответственного внедрения, предотвращении злоупотреблений и поддержании доверия в мире, где синтетический контент повсеместно распространен.
Шитту Олумиде — инженер-программист и технический писатель, увлеченный использованием передовых технологий для создания захватывающих повествований, обладающий острым вниманием к деталям и умением упрощать сложные концепты. Шитту также можно найти в Твиттере.
Источник: www.kdnuggets.com
