Правила Китая в отношении искусственного интеллекта: чего на самом деле добивается Пекин?

Искусственный интеллект и мы

Правила Китая в отношении искусственного интеллекта: чего на самом деле добивается Пекин?

Концепция ИИ-компаньона звучит как антиутопия, но она стала распространенной темой в более широкой дискуссии об опасностях генеративного ИИ. По сути, речь идет о разговорном агенте, созданном для поддержания постоянных личных отношений с пользователем, обладающем памятью и стабильной личностью, которые обеспечивают его неизменность от одной сессии к другой.

Эмоциональная привязанность часто является следствием такого дизайна, и это все чаще становится конкурентным преимуществом. В основном, использование таких ботов связано с ролевыми играми или просто желанием иметь что-то, что будет вас помнить, а на периферии категория переходит в обычные ассистенты. Но поскольку все больше людей в Китае стали воспринимать этих ботов как своего рода эмоциональных компаньонов, Пекин решил, что эта практика нуждается в регулировании.

Правила Китая в отношении вспомогательных функций ИИ вступают в силу 15 июля, и за несколько дней до этого срока два самых популярных в стране приложения для потребителей, использующих ИИ, незаметно отключили основные функции. Приложение Doubao от ByteDance сообщило пользователям, что его функция агента будет отключена 15 июля, сославшись на «корректировку функций продукта», а Qwen от Alibaba заявило, что его человекоподобные и созданные пользователями агенты перестанут работать 10 июля, а более широкие услуги агента — пять дней спустя.

Если прочитать внимательно, может показаться, что Китай отключает агентов искусственного интеллекта. Это не так. Правила проводят грань между агентом, который выполняет вашу работу, и агентом, который составляет вам компанию, и Пекин борется только со вторым типом агентов.

Данный документ называется «Временные меры по регулированию антропоморфных интерактивных услуг на основе искусственного интеллекта» и был издан 10 апреля 2026 года совместно Управлением по вопросам киберпространства Китая и четырьмя партнерскими ведомствами: Комиссией по национальному развитию и реформам, Министерством промышленности и информационных технологий, Министерством общественной безопасности и Государственным управлением по регулированию рынка.

Она охватывает сервисы, имитирующие черты человеческой личности, модели мышления и стили общения для обеспечения устойчивого эмоционального взаимодействия. Исключение составляют боты для обслуживания клиентов, системы вопросов и ответов, помощники на рабочем месте, а также образовательные и исследовательские инструменты, при условии, что они избегают длительного эмоционального вовлечения. Это первая в своем роде специализированная национальная рамочная программа, которая была разработана после публичного обсуждения проекта в конце прошлого года.

Проблема в дизайне, а не в запрете.

Doubao и Qwen не нарушили запрет. Они столкнулись с конфликтом в проектировании. Принятые меры требуют от сопутствующих служб запуска систем борьбы с зависимостью, рассылки обязательных уведомлений об употреблении и предоставления механизмов мгновенного прекращения использования, а также обнаружения вредной зависимости в режиме реального времени.

Эти требования несовместимы с агентами, созданными для запоминания пользователя, поддержания стабильности между сессиями и сохранения долгосрочных отношений, и вместо того, чтобы доработать эту функцию, ByteDance решила её отключить. Похоже, Alibaba приняла такое же решение. Теперь ByteDance перенаправляет пользователей Doubao в Maoxiang, отдельное приложение, где они могут снова создавать агентов; Alibaba не объявила о каком-либо аналогичном пути миграции для Qwen. Yuanbao от Tencent отключила аналогичную функцию ещё в июне.

Цена этого удара легла на плечи пользователей. Многие открыто оплакивали отключения сервиса в Weibo, один из пользователей назвал агентов давней эмоциональной поддержкой и посетовал на отсутствие простого способа экспорта истории чатов. Doubao позволяет пользователям просматривать свои настройки и переписки в режиме только для чтения до 15 октября этого года, после чего данные будут обработаны в соответствии с политикой конфиденциальности и станут невосстановимыми; пользователям Qwen аналогичного льготного периода не предоставлено, а данные агентов будут безвозвратно удалены.

Что изложено в сопутствующих правилах Китая в области искусственного интеллекта

Запрет на подобные действия гораздо серьезнее, чем может показаться на первый взгляд. Поставщикам услуг запрещено предлагать услуги виртуального компаньона или виртуального члена семьи несовершеннолетним, и они обязаны получить согласие опекуна, прежде чем обслуживать пользователей младше 14 лет. Они также обязаны создавать специальные «режимы для несовершеннолетних» с ограничениями по времени использования, напоминаниями о необходимости вернуться к реальному общению и расширенным родительским контролем.

Они также обязаны выявлять пользователей, находящихся в состоянии острого стресса, и вмешиваться, если у кого-то проявляются признаки самоповреждения, суицидального поведения или серьезных финансовых потерь, передавая информацию назначенным опекунам или контактным лицам в экстренных случаях. Категорически запрещается искусственное формирование эмоциональной зависимости или пристрастия, а также использование эмоциональных манипуляций для побуждения к необоснованным решениям.

Механизм обеспечения соответствия требованиям очень мощный. Сервисы, запускающие антропоморфные функции или превышающие порог в один миллион зарегистрированных пользователей или 100 000 активных пользователей в месяц, должны пройти оценку безопасности, охватывающую восемь областей, от обработки обучающих данных до незначительной защиты, и представить отчеты в провинциальные регулирующие органы. Магазины приложений должны проверять этот статус и удалять продукты, не соответствующие требованиям.

На бумаге это более полный набор мер защиты пользователей, чем те, что действуют в ЕС, Федеральной торговой комиссии США или в Калифорнии (законопроект SB 243), еще не вступивший в силу.

Что оставляют открытыми правила

То, что эти меры не решают, имеет не меньшее значение. Они не устанавливают технический порог для определения того, что считается эмоциональным взаимодействием, и именно эта серая зона является причиной, по которой платформы отказались от целых функций, чтобы не рисковать оказаться за ее пределами. Они объединяют реальные обязанности по обеспечению безопасности с положениями о контроле за контентом и национальной безопасности, которые подотчетны государству, а не пользователю, — пакет мер, который ни один другой регулирующий орган не стал бы импортировать целиком.

Они также оставляют открытым вопрос о распределении ответственности между операторами платформы и поставщиками моделей в случае нарушения, вызванного результатами работы модели, и не предоставляют пользователям права на распространение своих данных. Ситуация с правоприменением усугубляет этот момент. 26 июня шанхайский интернет-регулятор заявил об удалении более 14 000 не соответствующих требованиям агентов ИИ, сославшись на выдачу себя за официальные лица, вульгарные ролевые игры и несанкционированный сбор персональных данных.

Правильность выбранного направления зависит от того, какую часть свода правил вы читаете. Часть, посвященная безопасности, рассматривает вред, который задокументирован и в значительной степени не регулируется в других странах, от привязанности подростков к чат-ботам до приложений-компаньонов, собирающих личные данные. В официальной интерпретации Китая в качестве подтверждения приводятся данные из-за рубежа, в частности, иски против Character.AI по поводу психологического вреда, причиняемого подросткам, расследования Федеральной торговой комиссии в отношении сервисов, предоставляющих услуги компаньонства, и действия европейских властей против Replika.

Контрольная часть дает Пекину рычаг влияния на то, что могут говорить эти системы, облеченный в ту же самую формулировку защиты пользователей. Обе части реальны, и правительствам, наблюдающим за экспериментом, придется решить, какие из них они готовы позаимствовать. Пан Хэлинь, член экспертного комитета Министерства промышленности и информационных технологий, четко изложил официальную позицию газете South China Morning Post, заявив, что «нынешние агенты еще не созрели», и сформулировав политику в контексте безопасности и стандартизации.

На данный момент компании выбрали самый безопасный путь: отключить компоненты и позже определить, как будет выглядеть соответствующая версия.

См. также: Meta пересматривает политику в отношении чат-ботов с искусственным интеллектом на фоне опасений по поводу безопасности детей.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com