Вирусный пост на Reddit, в котором утверждалось о мошенничестве со стороны приложения для доставки еды, оказался сгенерирован искусственным интеллектом.

Пользователь Reddit, выдававший себя за информатора из приложения для доставки еды, оказался мошенником. Пользователь опубликовал вирусный пост, в котором утверждал, что компания, в которой он работает, эксплуатирует своих водителей и пользователей.

«Вы всегда подозреваете, что алгоритмы настроены против вас, но реальность гораздо более удручающая, чем теории заговора», — написал предполагаемый информатор.

Он утверждал, что пьян и находится в библиотеке, чтобы воспользоваться общедоступным Wi-Fi, где он печатал этот длинный текст о том, как компания использует лазейки в законе, чтобы безнаказанно воровать чаевые и заработную плату водителей.

К сожалению, эти утверждения оказались правдоподобными — компанию DoorDash действительно привлекли к суду за кражу чаевых у водителей, в результате чего было достигнуто соглашение о выплате компенсации в размере 16,75 миллионов долларов. Но в данном случае автор сообщения выдумал свою историю.

В интернете люди постоянно лгут. Но не так часто подобные посты попадают на главную страницу Reddit, набирают более 87 000 лайков и распространяются на другие платформы, например, на X, где получают еще 208 000 лайков и 36,8 миллионов просмотров.

Кейси Ньютон, журналист, стоящий за проектом Platformer, написал, что связался с автором поста на Reddit, который затем связался с ним через Signal. Пользователь Reddit поделился фотографией, похожей на его служебный значок UberEats, а также 18-страничным «внутренним документом», описывающим использование компанией искусственного интеллекта для определения «показателя отчаяния» отдельных водителей. Но когда Ньютон попытался проверить подлинность сообщения информатора, он понял, что его заманивают в ловушку, связанную с искусственным интеллектом.

«На протяжении большей части моей карьеры до этого момента документ, предоставленный мне информатором, казался бы мне весьма заслуживающим доверия, во многом потому, что на его составление ушло бы очень много времени», — написал Ньютон. «Кто стал бы тратить время на создание подробного 18-страничного технического документа о динамике рынка только для того, чтобы поиздеваться над журналистом? Кто стал бы возиться с изготовлением поддельного значка?»

Злоумышленники всегда стремились обмануть журналистов, но распространение инструментов искусственного интеллекта сделало проверку фактов еще более тщательной.

Модели генеративного ИИ часто не могут определить, является ли изображение или видео синтетическим, что затрудняет определение подлинности контента. В данном случае Newton смог использовать Google Gemini для подтверждения того, что изображение было создано с помощью инструмента ИИ, благодаря водяному знаку SynthID от Google, который устойчив к обрезке, сжатию, фильтрации и другим попыткам изменить изображение.

Макс Сперо — основатель Pangram Labs, компании, разрабатывающей инструмент для обнаружения текста, сгенерированного искусственным интеллектом, — непосредственно занимается проблемой различения реального и поддельного контента.

«Ситуация с использованием ИИ в интернете значительно ухудшилась, и я думаю, что отчасти это связано с возросшим использованием программ LLM, но есть и другие факторы», — сказал Сперо в интервью TechCrunch. «Есть компании с многомиллионным доходом, которые могут платить за „органическое вовлечение“ на Reddit, что на самом деле означает лишь попытку стать вирусными на Reddit с помощью сгенерированных ИИ постов, в которых упоминается название вашего бренда».

Такие инструменты, как Pangram, могут помочь определить, сгенерирован ли текст искусственным интеллектом, но, особенно когда речь идет о мультимедийном контенте, эти инструменты не всегда надежны — и даже если синтетический пост окажется фейковым, он может уже стать вирусным до того, как его опровергнут. Поэтому пока нам остается лишь просматривать социальные сети, как детективы, гадая, правда ли все, что мы видим.

Вот вам пример: когда я сказала редактору, что хочу написать о «вирусной мистификации с доставкой еды с помощью ИИ, которая обсуждалась на Reddit в эти выходные», она подумала, что я говорю о чем-то другом. Да — на Reddit в эти выходные было не одно «вирусное мошенничество с доставкой еды с помощью ИИ».

Источник: techcrunch.com