Вступают в силу правила прозрачности, предусмотренные статьей 50 Закона ЕС об искусственном интеллекте.

Управление, регулирование и политика

Вступают в силу правила прозрачности, предусмотренные статьей 50 Закона ЕС об искусственном интеллекте.

Вступила в силу статья 50 Закона ЕС об искусственном интеллекте, устанавливающая обязательства по обеспечению прозрачности для поставщиков и разработчиков ИИ, работающих на территории блока.

Предприятия, использующие инструменты генеративного ИИ, теперь должны соблюдать статью 50, которая требует от поставщиков и разработчиков определенных систем ИИ сообщать людям о том, что они взаимодействуют с машиной, и помечать контент, созданный ИИ, чтобы его можно было соответствующим образом обозначить.

Развитие генеративных систем затруднило различение взаимодействия ИИ от человеческой беседы. Отличить изображения, созданные ИИ, от подлинных тоже становится все сложнее. Кроме того, люди теперь неосознанно сталкиваются с инструментами распознавания эмоций и биометрической категоризации.

Комиссия связывает все это с масштабными манипуляциями и мошенничеством, а также с выдачей себя за другое лицо и обманом потребителей, которые занимают второе место в списке ее опасений. Статья 50 — это попытка ЕС решить эту проблему и обеспечить ответственное и безопасное внедрение ИИ на территории блока.

Что должны создавать поставщики услуг

Статья 50 требует от поставщиков разрабатывать системы таким образом, чтобы любой, кто непосредственно взаимодействует с системой ИИ, знал об этом. Исключение составляют случаи, очевидные для достаточно информированного, наблюдательного и осмотрительного человека в данном контексте.

Системы правоохранительных органов, используемые для выявления, предотвращения, расследования или преследования уголовных преступлений, также не подпадают под действие этого правила, при условии, что предусмотрены гарантии защиты прав третьих лиц, за исключением случаев, когда общественность может использовать эту систему для сообщения о преступлении.

Поставщики систем, генерирующих синтетические аудио, изображения, видео или текст, несут отдельную обязанность в соответствии со статьей 50. Механизмом является маркировка. Выходные данные должны иметь машиночитаемую метку, которую можно определить как искусственно сгенерированную или измененную.

Закон требует, чтобы вышеупомянутая маркировка была эффективной и совместимой «насколько это технически возможно», с учетом стоимости внедрения и уровня развития технологий. Вспомогательное редактирование, оставляющее предоставленные пользователем входные данные практически нетронутыми, не подпадает под это требование; обычная ретушь фотографий не является его основанием, но полная замена, сгенерированная искусственным интеллектом, — да.

Что должны сообщать развертывающие системы людям

Любой, кто использует систему распознавания эмоций или биометрической категоризации, обязан уведомить об этом людей, с которыми она взаимодействует. Персональные данные, собранные с помощью такой системы, по-прежнему подпадают под действие существующего законодательства о защите данных: GDPR регулирует общие случаи, регламент ЕС о защите данных применяется в тех случаях, когда систему использует орган ЕС, а Директива о правоохранительной деятельности охватывает контекст полицейской деятельности.

Для дипфейков также существует отдельная обязанность по раскрытию информации. Изображения, аудио- или видеоконтент, созданный или обработанный искусственно, должен сопровождаться соответствующим предупреждением. К художественным, сатирическим или вымышленным произведениям применяется более мягкий подход: в предупреждении достаточно лишь указать на существование такого контента, изложив формулировку таким образом, чтобы это не мешало наслаждаться произведением.

Тексты, публикуемые для информирования общественности по вопросам, представляющим общественный интерес, подпадают под действие отдельных правил. Разработчики обязаны раскрывать информацию о создании или обработке текста искусственным интеллектом, если только он не был проверен человеком и кто-то не несет редакционную ответственность за публикацию. Стандартная проверка в редакции соответствует требованиям. Неотредактированный результат работы ИИ, опубликованный непосредственно в материалах, представляющих общественный интерес, этому требованию не подлежит.

Вся информация должна быть предоставлена не позднее первого взаимодействия или контакта, в понятной, легко различимой и доступной форме в соответствии с действующими правилами доступности. Отсрочка не распространяется на уведомления после произошедшего.

Брюссель предпочитает путь соблюдения нормативных требований.

Правоприменение осуществляется тремя органами. Большинство дел рассматривают национальные органы по надзору за рынком. Управление по искусственному интеллекту занимается системами, находящимися под его собственным надзором. Европейский надзорный орган по защите данных вмешивается, когда учреждение ЕС само выступает в качестве поставщика или разработчика.

В руководящих принципах изложены способы, с помощью которых поставщики и разработчики могут продемонстрировать выполнение обязательств по маркировке, предусмотренных в статье 50. Одним из путей является присоединение к Кодексу практики по обеспечению прозрачности контента, созданного с помощью ИИ.

Организации, которые обходят Кодекс, должны продемонстрировать соответствие альтернативными способами, которые Комиссия сочтет адекватными. Как именно эти альтернативы выглядят на практике, подробно не описывается; это решение принимают органы рыночного надзора, осуществляющие контроль.

Для остальных обязанностей по обеспечению прозрачности нет эквивалентного кодекса. Нет кодекса — нет иного пути. Сообщить людям, что они общаются с ИИ, — это одна из обязанностей. Раскрытие информации о дипфейках и пометка сгенерированного ИИ текста, представляющего общественный интерес, дополняют остальные, и поставщики и разработчики самостоятельно определяют адекватные меры, а руководящие принципы служат скорее ориентиром, чем контрольным списком.

Значительная часть документа носит определяющий характер. В нем изложено, что считается непосредственно интерактивной системой ИИ, что квалифицируется как синтетический контент и где проходит грань между дипфейком и обычным отредактированным медиаконтентом. Стандартное редактирование, как и вспомогательные функции, оставляют входные данные, предоставленные развертывателем, нетронутыми.

В руководстве также рассматривается вопрос о том, кто считается поставщиком, а кто — исполнителем, и что происходит, когда обе роли выполняются одной и той же организацией. Какие из четырех обязательств по статье 50 применяются и к кому, зависит от этого различия между поставщиком и исполнителем.

Организации, рассматривающие возможность применения Кодекса практики по обеспечению прозрачности контента, созданного с помощью ИИ, или разработки собственного подхода к маркировке, теперь имеют отправную точку. Руководящие принципы предоставляют им одобренную Комиссией точку отсчета, выходящую за рамки простого текста регламента.

См. также: OpenAI приводит методы обеспечения безопасности в соответствие с Кодексом GPAI, принятым в рамках Закона ЕС об искусственном интеллекте.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com