Подтверждение того, какие пользователи являются детьми, сопряжено с политическими трудностями и представляет собой технический кошмар. Вот что говорят нам действия OpenAI и Федеральной торговой комиссии.
Эта статья первоначально появилась в The Algorithm, нашей еженедельной рассылке об искусственном интеллекте. Чтобы первыми получать подобные статьи на свою электронную почту, подпишитесь здесь.
Как технологические компании проверяют, являются ли их пользователи детьми?
Этот вопрос приобрел особую актуальность в последнее время из-за растущей обеспокоенности по поводу опасностей, которые могут возникнуть, когда дети общаются с чат-ботами на основе искусственного интеллекта. В течение многих лет крупные технологические компании просили указывать даты рождения (которые можно было выдумать), чтобы избежать нарушения законов о защите конфиденциальности детей, но при этом не были обязаны соответствующим образом модерировать контент. Два события за последнюю неделю показывают, как быстро меняется ситуация в США и как этот вопрос становится новым полем битвы, даже среди родителей и защитников безопасности детей.
С одной стороны — Республиканская партия, которая поддержала законы, принятые в нескольких штатах, требующие от сайтов с контентом для взрослых проверять возраст пользователей. Критики утверждают, что это дает возможность блокировать все, что считается «вредным для несовершеннолетних», включая, например, половое воспитание. Другие штаты, такие как Калифорния, преследуют компании, занимающиеся искусственным интеллектом, законами, защищающими детей, которые общаются с чат-ботами (требуя от них проверки личности ребенка). Между тем, президент Трамп пытается сохранить регулирование ИИ на национальном уровне, вместо того чтобы позволить штатам устанавливать собственные правила. Поддержка различных законопроектов в Конгрессе постоянно меняется.
Что же может произойти? Дискуссия быстро смещается от вопроса о необходимости проверки возраста к вопросу о том, кто будет за это отвечать. Эта ответственность — щекотливая тема, на которую ни одна компания не хочет ложиться.
В своем блоге во вторник компания OpenAI сообщила о планах внедрения автоматического прогнозирования возраста. Вкратце, компания будет использовать модель, учитывающую такие факторы, как время суток, для определения, является ли общающийся в чате человек моложе 18 лет. Для тех, кто идентифицирован как подростки или дети, ChatGPT будет применять фильтры для «снижения воздействия» контента, такого как графическое насилие или ролевые игры сексуального характера. YouTube запустил нечто подобное в прошлом году.
Если вы поддерживаете проверку возраста, но обеспокоены конфиденциальностью, это может показаться вам успехом. Но есть подвох. Система, конечно, не идеальна, поэтому она может ошибочно классифицировать ребенка как взрослого или наоборот. Люди, ошибочно отнесенные к категории лиц младше 18 лет, могут подтвердить свою личность, отправив селфи или удостоверение личности государственного образца в компанию Persona.
У селфи-верификации есть проблемы: она чаще дает сбои у людей с темным цветом кожи и у людей с определенными видами инвалидности. Самир Хиндуджа, содиректор Центра исследований кибербуллинга, говорит, что еще одним слабым местом является то, что Persona придется хранить миллионы государственных удостоверений личности и огромные массивы биометрических данных. «Когда эти данные будут взломаны, мы одновременно подвергнем опасности огромные группы людей», — говорит он.
Вместо этого Хиндуджа выступает за проверку на уровне устройства, когда родитель указывает возраст ребенка при первой настройке его телефона. Эта информация затем сохраняется на устройстве и безопасно передается приложениям и веб-сайтам.
Примерно этого и добивался Тим Кук, генеральный директор Apple, обращаясь к американским законодателям. Кук боролся с законодателями, которые хотели обязать магазины приложений проверять возраст пользователей, что возложило бы на Apple большую ответственность.
Связанная статья
В среду появятся новые признаки того, к чему все это ведет: Федеральная торговая комиссия — ведомство, ответственное за соблюдение новых законов, — проведет однодневный семинар по проверке возраста. На нем будет присутствовать глава отдела по связям с государственными органами Apple Ник Росси. К нему присоединятся высокопоставленные сотрудники Google и Meta, занимающиеся вопросами безопасности детей, а также представители компании, специализирующейся на маркетинге для детей.
Федеральная торговая комиссия (FTC) стала все более политизированной при президенте Трампе (его увольнение единственного комиссара-демократа было отменено федеральным судом, и это решение сейчас находится на рассмотрении Верховного суда США). В июле я писал о признаках того, что агентство смягчает свою позицию по отношению к компаниям, занимающимся искусственным интеллектом. Действительно, в декабре FTC отменила решение времен Байдена в отношении компании, занимавшейся искусственным интеллектом, которая позволяла людям заполонять интернет фейковыми отзывами о товарах, заявив, что это противоречит Плану действий президента Трампа в области ИИ.
Семинар в среду может пролить свет на то, насколько предвзятым будет подход Федеральной торговой комиссии (FTC) к проверке возраста. В штатах, традиционно голосующих за республиканцев, поддерживаются законы, требующие от порносайтов проверки возраста (но критики предупреждают, что это может быть использовано для блокировки гораздо более широкого спектра контента). Бетани Сойе, представительница Республиканской партии в законодательном собрании штата, возглавляющая усилия по принятию такого законопроекта в своем штате Южная Дакота, должна выступить на заседании FTC. Американский союз гражданских свобод (ACLU) в целом выступает против законов, требующих предъявления удостоверений личности для посещения веб-сайтов, и вместо этого выступает за расширение существующих средств родительского контроля.
Однако, пока все это обсуждается, искусственный интеллект перевернул мир безопасности детей с ног на голову. Мы сталкиваемся с ростом числа материалов, содержащих сексуальные домогательства в отношении детей, опасениями (и судебными исками) по поводу самоубийств и членовредительства после разговоров с чат-ботами, а также тревожными свидетельствами о формировании привязанности у детей к ИИ-компаньонам. Противоречивые позиции по вопросам конфиденциальности, политики, свободы выражения мнений и слежки осложнят любые попытки найти решение. Напишите мне, чтобы поделиться своими мыслями.
Источник: www.technologyreview.com
