Законодатель из Калифорнии предлагает ввести четырехлетний запрет на использование чат-ботов с искусственным интеллектом в детских игрушках.

Сенатор Стив Падилья (демократ от Калифорнии) в понедельник представил законопроект, который вводит четырехлетний запрет на продажу и производство игрушек с возможностями чат-ботов на основе искусственного интеллекта для детей младше 18 лет. Цель состоит в том, чтобы дать регулирующим органам время на разработку правил, защищающих детей от «опасного взаимодействия с ИИ».

«Чат-боты и другие инструменты искусственного интеллекта могут стать неотъемлемой частью нашей жизни в будущем, но опасность, которую они представляют уже сейчас, требует от нас решительных действий для защиты наших детей», — заявила сенатор Падилья в своем заявлении. «Наши правила безопасности в отношении подобных технологий находятся на начальной стадии развития и должны будут расти так же стремительно, как и возможности этих технологий. Приостановка продажи игрушек со встроенными чат-ботами дает нам время для разработки соответствующих правил и рамок безопасности, которым должны соответствовать эти игрушки».

Законопроект, получивший название SB 867, появился после недавнего указа президента Трампа, предписывающего федеральным агентствам оспаривать законы штатов об искусственном интеллекте в суде — хотя в указе прямо предусмотрены исключения для законов штатов, касающихся безопасности детей. Принятие этого закона также последовало за несколькими вызывающими беспокойство инцидентами, связанными с искусственным интеллектом, чат-ботами и детьми.

За последний год иски, поданные семьями, чьи дети покончили жизнь самоубийством после длительных разговоров с чат-ботами, побудили законодателей к действиям. Падилья также является соавтором недавно принятого в Калифорнии законопроекта SB 243, который обязывает операторов чат-ботов внедрять меры защиты для детей и уязвимых пользователей.

Хотя использование чат-ботов в игрушках пока не получило широкого распространения, уже поступали сообщения о тревожных случаях. В ноябре 2025 года группа защиты прав потребителей PIRG Education Fund предупредила, что такие игрушки, как Кумма — милый игрушечный медвежонок со встроенным чат-ботом — могут легко начать говорить о спичках, ножах и сексуальных темах. NBC News обнаружила, что Miiloo, «игрушка с искусственным интеллектом для детей», произведенная китайской компанией Miriat, иногда указывала на то, что запрограммирована на отражение ценностей Коммунистической партии Китая.

Компании OpenAI и Mattel, производитель кукол Барби, планировали выпустить «продукт с поддержкой искусственного интеллекта» в 2025 году, но отложили релиз. Ни одна из компаний не объяснила причину задержки, и неясно, планируют ли они выпустить игрушку в 2026 году.

«Наших детей нельзя использовать в качестве подопытных кроликов для экспериментов крупных технологических компаний», — заявила Падилья.

Источник: techcrunch.com