Meta представляет новые функции родительского контроля для своего ИИ-приложения

В пятницу компания Meta представила новые функции родительского контроля для общения подростков с ИИ-персонажами на своих платформах. Эти функции, которые появятся в следующем году, включают в себя возможность блокировать определённых персонажей и отслеживать темы разговоров.

В ближайшие месяцы родители смогут полностью отключить чаты с ИИ-персонажами для подростков. Это действие не заблокирует доступ к чат-боту Meta AI — универсальному чат-боту компании, который будет обсуждать только контент, соответствующий возрасту.

Родители также смогут отключать чаты с отдельными персонажами, если предпочитают более избирательный контроль. Кроме того, они будут получать информацию о темах, которые подростки обсуждают с ИИ-персонажами и метаИИ.

Компания заявила, что планирует внедрить эти функции в Instagram в начале следующего года. Они будут доступны на английском языке в США, Великобритании, Канаде и Австралии.

«Мы понимаем, что у родителей и так много забот, когда дело касается безопасного пользования интернетом вместе с детьми-подростками, и мы стремимся предоставить им полезные инструменты и ресурсы, которые упростят им жизнь, особенно когда они задумываются о таких новых технологиях, как искусственный интеллект», — говорится в сообщении компании, написанном главой Instagram Адамом Моссери и недавно назначенным главой Meta AI Александром Вангом.

Ранее на этой неделе компания Meta заявила, что ее контент и возможности искусственного интеллекта для подростков будут соответствовать стандарту рейтинга фильмов PG-13 и не будут затрагивать такие деликатные темы, как крайняя жестокость, нагота и сцены употребления наркотиков.

Компания добавила, что в настоящее время подросткам разрешено взаимодействовать только с ограниченным числом персонажей, соответствующих возрастным ограничениям. Родители также могут устанавливать временные ограничения на взаимодействие подростков с персонажами, управляемыми искусственным интеллектом. Ранее в этом году Instagram объявил, что использует искусственный интеллект для выявления попыток обойти возрастные ограничения, подделывая свой возраст в приложении.

За последние несколько недель несколько платформ, включая OpenAI, Meta и YouTube, выпустили инструменты и средства контроля, ориентированные на безопасность подростков. Эти изменения произошли на фоне растущей обеспокоенности влиянием социальных сетей на психическое здоровье подростков и судебных исков против компаний, разрабатывающих ИИ, которые, как утверждается, сыграли роль в подростковых самоубийствах.

Источник: techcrunch.com