Поскольку глубокие подделки стирают грань между правдой и вымыслом, нам понадобится новый класс судебных экспертов, чтобы определить, что реально, что поддельно и что может быть доказано в суде
Представьте себе этот сценарий. На дворе 2030 год, повсюду фейки и контент, созданный искусственным интеллектом, и вы являетесь представителем новой профессии — нотариуса в реальном времени. В вашем офисе клиенты просят вас проверить подлинность фотографий, видео, электронных писем, контрактов, скриншотов, аудиозаписей, текстовых сообщений, сообщений в социальных сетях и биометрических данных. Люди прибывают сюда в отчаянии, чтобы защитить свои деньги, репутацию и здравомыслие, а также свою свободу.
Все четверо оказываются под угрозой в дождливый понедельник, когда пожилая женщина рассказывает вам, что ее сына обвинили в убийство. У нее с собой улика против него: USB-флешка с записями с камер наблюдения, на которых была зафиксирована стрельба. Она запечатана в пластиковый пакет, прикрепленный к письменному показанию под присягой, в котором объясняется, что на флешке содержатся доказательства, которые обвинение намерено использовать. Внизу находится строка из цифр и букв: криптографический хэш.
Стерильная лаборатория
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Ваш первый шаг — это не просмотр видео, это все равно что бродить по месту преступления. Вместо этого вы подключаете накопитель к автономному компьютеру с помощью блокиратора записи — аппаратного устройства, которое предотвращает обратную запись любых данных на накопитель. Это все равно, что приносить улики в стерильную лабораторию. Файл хэшируется на компьютере. Криптографическое хеширование, проверка целостности в цифровой криминалистике, имеет «лавинообразный эффект», так что любое незначительное изменение — удаленный пиксель или настройка звука — приводит к созданию совершенно другого кода. Если вы откроете диск, не защитив его, ваш компьютер может незаметно изменить метаданные — информацию о файле — и вы не узнаете, был ли полученный вами файл тем самым, который намерено представить обвинение. Когда вы хэшируете видео, вы получаете ту же строку цифр и букв, что и в аффидевите.
Далее вы создаете копию и хэшируете ее, проверяя, совпадают ли коды. Затем вы сохраняете оригинал в защищенном архиве. Вы отправляете копию на рабочее место криминалиста, где просматриваете видеозапись — похоже, это запись с камеры видеонаблюдения, на которой видно, как взрослый сын женщины приближается к мужчине в переулке, поднимает пистолет и производит выстрел. Видео убедительно, потому что оно скучное — ни кинематографических ракурсов, ни драматического освещения. На самом деле вы уже видели его раньше — оно недавно появилось в Сети, спустя несколько недель после убийства. В письменном показании указано точное время, когда полиция загрузила его с социальной платформы.
Просматривая зернистые кадры, вы вспоминаете, почему вы это делаете. Вы все еще учились в университете в середине 2020-х, когда deepfakes превратились из новинки в крупный бизнес. Компании, занимающиеся проверкой подлинности, сообщили о 10-кратном росте числа подделок в период с 2022 по 2023 год, а количество атак с использованием подмены лиц увеличилось более чем на 700 процентов всего за шесть месяцев. К 2024 году попытки мошенничества с использованием подделок происходили каждые пять минут. У вас были друзья, чьи банковские счета были опустошены, а ваши бабушка и дедушка перевели тысячи долларов мошеннику, занимавшемуся виртуальным похищением, после того как получили измененные фотографии вашей двоюродной сестры, когда она путешествовала по Европе. Вы пришли в эту профессию, потому что увидели, как одна-единственная фальсификация может разрушить жизнь.
Цифровые отпечатки пальцев
Следующим шагом в анализе видео является проверка его происхождения. В 2021 году была основана Коалиция за происхождение и аутентичность контента (C2PA) для разработки стандарта отслеживания истории файла. Учетные данные для контента C2PA работают как паспорт, собирая штампы по мере перемещения файла по миру. Если в видео что-то есть, вы можете отследить его создание и изменения. Но большинство из них внедряются медленно, а учетные данные для контента часто удаляются по мере распространения файлов в Интернете. В ходе теста, проведенного Washington Post в 2025 году, журналисты прикрепили учетные данные к видео, созданному с помощью искусственного интеллекта, но все крупные платформы, на которые они его загрузили, удалили эти данные.
Далее вы открываете файл находится вметаданные, однако, редко сохраняются при онлайн-передаче. Временные метки не соответствуют времени убийства. В какой-то момент они были сброшены — теперь все они указаны как полночь, а поле «Устройство» пусто. Программный тег сообщает вам, что файл был в последний раз сохранен с помощью обычного видеокодера, используемого социальными платформами. Ничто не указывает на то, что запись была получена непосредственно из системы видеонаблюдения.
Когда вы просматриваете материалы открытого судебного разбирательства по делу об убийстве, вы узнаете, что владелец объекта, на котором была установлена камера видеонаблюдения, не спешил с ответом на запрос полиции. Система видеонаблюдения была настроена на перезапись данных каждые 72 часа, и к тому времени, когда полиция получила к ним доступ, видеозапись исчезла. Именно это сделало анонимное появление видео в Интернете — с убийством, показанным именно с того ракурса, с которого снимала камера видеонаблюдения, — сенсацией.
Физика обмана
Вы начинаете слежку за Интернетом, которую следователи называют разведданными с открытым исходным кодом, или OSINT. Вы даете команду ИИ-агенту найти более раннюю копию видео. Через восемь минут он выдает результаты. На видео, опубликованном за два часа до загрузки в полицию, есть частичная запись, в которой говорится, что запись была сделана с помощью телефона.
Причина, по которой вы находите данные C2PA, заключается в том, что такие компании, как Truepic и Qualcomm, разработали для телефонов и камер способы криптографической подписи контента в момент съемки. Что теперь ясно, так это то, что видео было снято не с камеры видеонаблюдения.
Вы смотрите его снова, чтобы увидеть физику, которая не имеет смысла. Замедленные кадры проносятся мимо, как в перелистываемой книге. Вы смотрите на тени, на очертания двери в переулке. Затем на краю стены вспыхивает свет, которого там не должно быть. Это не мерцание электрической лампочки, а ритмичное мерцание. Кто-то заснял экран.
Мерцание является признаком рассинхронизации двух часов. Камера телефона сканирует мир построчно, сверху вниз, много раз в секунду, в то время как экран обновляется циклически — 60, 90 или 120 раз в секунду. Когда телефон записывает изображение с экрана, он может уловить мерцание при обновлении экрана. Но это все равно не говорит о том, соответствует ли изображение действительности. Возможно, кто-то просто записал исходное изображение с монитора наблюдения, чтобы сохранить отснятый материал до того, как он был перезаписан. Чтобы доказать, что это подделка, нужно заглянуть глубже.
Артефакты подделки
Теперь вы проверяете наличие водяных знаков — невидимых статистических закономерностей внутри изображения. Например, SynthID — это водяной знак Google DeepMind для ИИ-контента, созданного Google. Ваше программное обеспечение обнаруживает намеки на то, что может быть водяным знаком, но ничего определенного. Обрезка, сжатие или съемка экрана может привести к повреждению водяных знаков, в результате чего останутся только следы, подобные следам от стертых слов на бумаге. Это не означает, что вся сцена была создана искусственным интеллектом; это предполагает, что система искусственного интеллекта, возможно, изменила отснятый материал до того, как экран был записан.
Затем вы прогоняете видео через детектор подделок, такой как Reality Defender. Анализ выявляет аномалии вокруг лица стрелка. Вы разбиваете видео на кадры. Вы используете подключаемый модуль InVID-WeVerify для извлечения четких кадров и поиска обратного изображения лица обвиняемого сына, чтобы увидеть, появлялось ли оно в другом контексте. Ничего не найдено.
На диске есть другие доказательства, в том числе более свежие кадры с той же камеры. Кирпичная кладка совпадает с видеозаписью. Это не сфабрикованная сцена.
Вы возвращаетесь к лицу стрелка. Освещение в переулке резкое, что создает отчетливую текстуру. На его куртке, руках и стене за его спиной слышны грубые цифровые помехи, но на лице их нет. Звук немного более плавный, из более чистого источника.
Камеры видеонаблюдения создают отчетливую размытость движущихся объектов, а отснятый материал сжимается. У стрелка такое же размытое и объемное изображение, за исключением лица. Вы смотрите видео еще раз, на этот раз увеличено изображение только лица. Контур челюсти слегка дрожит — два слоя слегка смещены.
Окончательный расчет
Вы вернитесь к моменту появления стрелка. Он поднимает оружие левой рукой. Вы звоните женщине. Она говорит вам, что ее сын правша, и присылает вам видео, на которых он подростком занимается спортом.
Наконец, вы выходите на аллею. В отчетах о техническом обслуживании здания указано, что камера находится на высоте 12 футов. Вы измеряете его высоту и угол наклона, используя основы тригонометрии, чтобы рассчитать рост стрелка — он на три дюйма выше сына женщины.
Теперь видео имеет смысл.- это было сделано путем клонирования лица сына, использования генератора искусственного интеллекта для наложения его на изображение стрелка и записи экрана телефона, чтобы удалить водяной знак генератора. Кто бы это ни сделал, он ловко выбрал телефон, который генерировал бы учетные данные для контента, поэтому зрители увидели бы криптографически подписанное заявление о том, что клип был записан на этот телефон и что после записи не было объявлено никаких изменений. Сделав это, создатель видео, по сути, подделал сертификат подлинности для лжи.
Нотариально заверенный документ, который вы отправите государственному защитнику, не будет восприниматься как триллер но это похоже на лабораторный отчет. В 2030 году «нотариус в реальности» больше не является научной фантастикой; это человек, услугами которого мы пользуемся, чтобы люди и учреждения были такими, какими они кажутся.
