Roblox должен внести изменения после того, как не смог заблокировать взрослых, пристающих к детям.

Roblox стала первой платформой, прошедшей независимую проверку в соответствии с Законом о безопасности в интернете.

Источник: SOPA Images / Contributor | LightRocket Источник: SOPA Images / Contributor | LightRocket

Несмотря на внесенные прошлой осенью изменения, призванные помочь заблокировать отправку сообщений взрослыми незнакомым детям, Roblox по-прежнему не справляется с предотвращением слежки взрослых за детьми другими способами, заявила в четверг комиссар Австралии по вопросам безопасности в интернете Джули Инман Грант.

Подозревая, что Roblox, возможно, не предпринимает достаточных мер для предотвращения эксплуатации детей, организация eSafety провела в начале этого года тестирование, выявившее тревожные пробелы в системе защиты Roblox. Агентство обнаружило, что незнакомые взрослые по-прежнему могут отправлять запросы на установление связи детям, чьи «профили и биографии, включая имена учетных записей, количество и имена подключенных пользователей, изображения аватаров и неконфиденциальную биографическую информацию, такую как их интересы, были видны любому пользователю платформы Roblox, и не было возможности ограничить видимость этой информации».

Как выяснила организация eSafety, подобные запросы не вызывали родительских предупреждений, и злоумышленники могли также искать дополнительные цели в списках контактов детей, доступных для просмотра всем.

Еще более тревожным является то, что взрослые также могут искать детей и комментировать их сообщения «без согласия родителей или опекунов» на «форумах за пределами игровой среды», заявили в eSafety.

Закон Австралии о безопасности в интернете требует от платформ предотвращения нежелательных контактов между взрослыми и несовершеннолетними. Он также обязывает по умолчанию устанавливать для детских аккаунтов приватный режим. Хотя Roblox «считает, что выполняет свои обязательства», эта онлайн-игровая платформа, которой пользуются 1,7 миллиона австралийских детей, заключила соглашение, имеющее юридическую силу, о внесении изменений в течение следующих трех месяцев.

Компания Roblox пообещала принять меры, которые не позволят взрослым контактировать с детьми без согласия родителей на всей платформе. Как заявила организация eSafety, обеспечение лучшей защиты детей начинается с «усиления настроек детских аккаунтов, чтобы они по умолчанию были приватными», и заканчивается тем, что Roblox упростит процедуру сообщения о нежелательных контактах и будет уведомлять пользователей о результатах после подачи жалоб. По словам Инмана Гранта, это критически важная защита для второй по популярности онлайн-игры для детей в Австралии.

«Мы хотим обеспечить, чтобы любая платформа с большим количеством детей была безопасным местом, где они могли бы наслаждаться преимуществами онлайн-игр, творчества и общения, включая создание собственных миров и впечатлений в интернете», — сказал Инман Грант. «Но эти преимущества могут быть реализованы только при наличии эффективных мер защиты, предотвращающих такие серьезные угрозы, как совращение несовершеннолетних, сексуальная эксплуатация детей, шантаж с использованием интимных фотографий или вербовка в насильственный экстремизм».

Roblox соглашается на независимый мониторинг.

Кроме того, Инман Грант заявил, что тестирование регулирующего органа показало, что Roblox больше нельзя доверять в вопросе независимой проверки соответствия инструментов обеспечения безопасности детей австралийскому законодательству. В дальнейшем Roblox не сможет «проверять свою собственную работу», сказал Инман Грант, добавив, что платформа согласилась на независимый аудит.

Компания Roblox, вероятно, надеется, что разрешение на проведение аудитов продемонстрирует, что она предпринимает более решительные меры по защите детей, чем другие компании. В январе компания объявила, что станет первой крупной онлайн-платформой для игр, которая потребует проверки возраста по лицу. Такие биометрические проверки возраста оказались спорными, непопулярными среди пользователей и тревожными для защитников конфиденциальности, которые считают даже новейшие инструменты проверки возраста несовершенными. И хотя Roblox заявляет, что обычно автоматически удаляет селфи, отправленные для проверки возраста, компания может хранить эти данные до 30 дней, что делает их уязвимыми для потенциальных утечек.

В ответ на просьбу прокомментировать ситуацию, компания Roblox направила изданию Ars заявление.

«Это соглашение стало результатом конструктивного диалога с eSafety и последовало за недавним внедрением передовых функций безопасности на Roblox, включая новые учетные записи Roblox Kids и Select для лиц младше 16 лет», — заявил представитель Roblox. «Мы выполнили обязательства, взятые перед eSafety за последние 12 месяцев, и продолжим работать над достижением нашей общей цели — обеспечения безопасности австралийских детей в интернете».

Оценка возраста в Roblox также будет проверена.

Компания Inman Grant подчеркнула, что это первый случай, когда в Австралии требуется независимый аудит с момента вступления в силу Закона о безопасности в интернете.

Соглашение было достигнуто после того, как в октябре прошлого года организация eSafety предупредила Roblox о том, что руководство компании по-прежнему «крайне обеспокоено продолжающимися сообщениями об эксплуатации детей в сервисе Roblox и доступе к вредоносным материалам».

Для Roblox эта сделка выходит за рамки помощи eSafety в мониторинге эффективности мер защиты. По словам eSafety, независимый аудит также позволит агентству получить представление об инструментах оценки возраста в Roblox. Если окажется, что Roblox ошибочно присваивает детям статус взрослых, предоставляет им доступ к контенту для взрослых или подвергает их воздействию взрослых хищников, компания может столкнуться с крупными штрафами в соответствии с Законом о безопасности в Интернете. В октябре прошлого года eSafety предупредила, что готова «использовать весь спектр своих полномочий по обеспечению соблюдения законодательства, в зависимости от обстоятельств», чтобы остановить совращение и эксплуатацию несовершеннолетних на Roblox, включая «наложение штрафов в размере до 49,5 миллионов долларов».

Однако Roblox, похоже, уверен в своей системе оценки возраста. В сообщении в блоге, опубликованном ранее в этом месяце, Roblox сообщила, что ее система оценки возраста по лицу, разработанная «полностью собственными силами», использует искусственный интеллект для поддержания «актуальности проверок возраста».

Как сообщила компания Roblox, на данный момент система обработала 338 миллионов записей о проверке возраста, чтобы помочь пользователям Roblox разблокировать чат, соответствующий их возрасту, и получить доступ к играм на платформе, также соответствующим их возрасту. Она основана на высокопроизводительном слое машинного обучения (ML), который оценивает, соответствует ли текущее поведение учетной записи ее предполагаемому возрасту с течением времени.

Хотя определение возраста с помощью машинного обучения «сложно», поскольку «возрастные границы не являются резкими изменениями в поведении», Roblox утверждает, что использует «правильные сигналы» для оценки возраста. Однако платформа несколько уклончиво ответила на вопрос о том, как она распределяет пользователей по возрастным группам, отметив, что «единый показатель точности не очень информативен», поскольку качество также зависит от «качества ранжирования, калибровки, стабильности во времени и поведения вблизи важных возрастных границ».

Однако Roblox делится некоторыми статистическими данными, сообщая, что их объединенная модель выдает «оценки с высокой степенью достоверности», которые остаются «стабильными изо дня в день».

«Более 99 процентов пользователей остаются в одной и той же широкой возрастной группе в течение нескольких дней подряд», — заявили в Roblox.

Кроме того, тесты, в ходе которых модель сравнивалась «с независимыми эталонными данными, полученными от обученных экспертов в рамках наших рабочих процессов обеспечения доверия и безопасности», показали, что «оценка возрастной группы, полученная с помощью модели, совпадает с общепринятой оценкой взрослых более чем в 80 процентах случаев», — заявили в Roblox.

Компания Roblox заявила, что «наличие этой системы внутри компании позволяет нам безопасно использовать специфические для Roblox сигналы, работать с предельной тщательностью и постоянно совершенствоваться», в том числе, позволяя Roblox легко удалять неэффективные подмодели или оптимизировать другие. Но eSafety явно придерживается осторожного подхода, планируя постоянно проверять эффективность инструмента оценки возраста, чтобы не оказаться в неловкой ситуации, если самооценка Roblox оценит систему выше, чем это может сделать регулирующий орган, отвечающий за соблюдение Закона о безопасности в Интернете.

В конце этого года организация eSafety опубликует отчет о прозрачности, в котором подробно описывается, насколько успешно онлайн-игровые сервисы, такие как Roblox, предотвращают нанесение вреда детям. Для составления этого отчета все платформы должны были объяснить «шаги, которые они предпринимают для защиты детей от вреда, включая сексуальную эксплуатацию и насилие в отношении детей, материалы и действия, содержащие насилие, а также кибербуллинг в интернете», — заявила eSafety.

«В конечном итоге, наша цель — заставить компании сделать свои сервисы более безопасными для детей и молодежи. Там, где безопасность на этапе проектирования не была всесторонне внедрена, мы без колебаний обеспечим ответственное устранение этих рисков», — заявил Инман Грант в четверг. «Привлечение Roblox к выполнению обязательных мер по повышению безопасности посредством этого подлежащего исполнению обязательства является прекрасным примером того, как эти системные полномочия могут принести реальные и значимые результаты».

Источник: arstechnica.com