Иммиграционные службы заполонили социальные сети странным контентом, предположительно сгенерированным искусственным интеллектом. Теперь мы знаем больше о том, что может попадать в эти сети.
Согласно новому документу, Министерство внутренней безопасности США использует генераторы видео на основе искусственного интеллекта от Google и Adobe для создания и редактирования контента, предназначенного для публичного доступа. Это происходит на фоне того, как иммиграционные службы заполонили социальные сети контентом в поддержку программы массовой депортации президента Трампа — часть которого, по всей видимости, создана с помощью ИИ — и на фоне давления со стороны работников технологической отрасли на своих работодателей с требованием осудить деятельность этих ведомств.
В документе, опубликованном в среду, представлен перечень коммерческих инструментов искусственного интеллекта, которые Министерство внутренней безопасности США использует для решения задач, начиная от создания черновиков документов и заканчивая управлением кибербезопасностью.
В разделе, посвященном «редактированию изображений, видео или других материалов по связям с общественностью с использованием ИИ», впервые раскрывается информация о том, что Министерство внутренней безопасности США использует видеогенератор Google Veo 3 и Adobe Firefly, оценивая количество лицензий на эти инструменты в ведомстве от 100 до 1000. Также сообщается, что Министерство внутренней безопасности использует Microsoft Copilot Chat для создания черновых вариантов документов и составления кратких отчетов, а также программное обеспечение Poolside для задач кодирования, помимо инструментов других компаний.
Компании Google, Adobe и Министерство внутренней безопасности США не сразу ответили на запросы о комментариях.
В новостях приводятся подробности о том, как такие ведомства, как Иммиграционная и таможенная служба (ИМС), входящая в состав Министерства внутренней безопасности США, могли создавать большое количество контента, который они размещали на X и других каналах по мере расширения иммиграционных операций в городах США. Они публиковали контент, посвященный «Рождеству после массовых депортаций», ссылались на библейские стихи и рождение Христа, показывали лица арестованных ведомством и размещали рекламу, направленную на вербовку агентов. Ведомства также неоднократно использовали музыку без разрешения исполнителей в своих видеороликах.
Часть контента, особенно видеоролики, выглядит так, будто создана с помощью искусственного интеллекта, но до сих пор не было ясно, какие именно модели ИИ могут использоваться ведомствами. Это первое конкретное доказательство того, что Министерство внутренней безопасности использует подобные генераторы для создания контента, доступного для общественности.
По-прежнему невозможно проверить, какая компания участвовала в создании конкретного контента, или был ли он вообще сгенерирован искусственным интеллектом. Adobe предлагает, например, возможность «пометить» видео, созданное с помощью их инструментов, водяным знаком, указывающим на то, что оно сгенерировано ИИ, но это указание не всегда сохраняется при загрузке и распространении контента на разных сайтах.
В документе раскрывается, что Министерство внутренней безопасности США (DHS) использовало Flow, инструмент от Google, который объединяет видеогенератор Veo 3 с набором инструментов для создания фильмов. Пользователи могут создавать клипы и собирать целые видеоролики с помощью ИИ, включая видео, содержащие звук, диалоги и фоновый шум, что делает их гиперреалистичными. Компания Adobe запустила свой генератор Firefly в 2023 году, обещая, что он не использует защищенный авторским правом контент в своем обучении или результатах. Как и инструменты Google, инструменты Adobe могут генерировать видео, изображения, звуковые дорожки и речь. В документе не раскрываются дополнительные подробности о том, как агентство использует эти инструменты для генерации видео.
Сотрудники крупных технологических компаний, в том числе более 140 нынешних и бывших сотрудников Google и более 30 сотрудников Adobe, в последние недели оказывают давление на своих работодателей, требуя от них занять позицию против ICE (Иммиграционной и таможенной службы США) и убийства Алекса Претти 24 января. Руководство Google пока не сделало никаких заявлений в ответ. В октябре Google и Apple удалили из своих магазинов приложений приложения, предназначенные для отслеживания местонахождения сотрудников ICE, сославшись на риски для безопасности.
В среду был опубликован дополнительный документ, раскрывающий новые подробности о том, как агентство использует более специализированные продукты на основе искусственного интеллекта, включая приложение для распознавания лиц, используемое иммиграционной и таможенной полицией (ICE), о чем впервые сообщило издание 404Media в июне.
Источник: www.technologyreview.com
