Суд присяжных в Лос-Анджелесе признал Instagram и YouTube небрежными в том, как они были созданы, что привело к новому судебному разбирательству по поводу того, как суды рассматривают социальные сети
Потеря Присяжные Лос-Анджелеса вынесли вердикт по первому делу о зависимости от социальных сетей, которое было передано в суд. 25 марта присяжные признали, что Meta и Google проявили халатность при разработке Instagram и YouTube и не предупредили пользователей об их рисках. Они присудили истцу компенсацию в размере 6 миллионов долларов, при этом Meta возместила 70 процентов ответственности, а Google — 30 процентов.
Сам по себе вердикт не создает прецедента, и обе компании заявляют, что подадут апелляцию. Но это превращает давний спор о социальных сетях в актуальный юридический вопрос: должен ли закон рассматривать современную ленту как защищенную публикацию или как продукт, дизайн которого можно оценить с точки зрения безопасности?
Это это также пробный пример в гораздо более масштабной борьбе: в Калифорнии на рассмотрении находится около 1600 дел, а также более 10 000 индивидуальных дел и около 800 заявлений от школьных округов по всей стране. За день до вынесения вердикта в Лос-Анджелесе присяжные в Нью-Мексико признали компанию Meta ответственной в соответствии с законом штата о защите прав потребителей за введение потребителей в заблуждение относительно безопасности Facebook, Instagram и WhatsApp и за сексуальную эксплуатацию детей на этих платформах.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Истица, идентифицированная по инициалам как К.Г.М., которой сейчас 20 лет, показала, что она начала пользоваться YouTube в возрасте шести лет, а Instagram — в возрасте девяти. Но вместо того, чтобы сосредоточиться на конкретных видеороликах и публикациях, которые она увидела, ее юристы сосредоточились на дизайне самих продуктов — таких функциях, как бесконечная прокрутка и автозапуск, а также на системах, созданных для увеличения количества предоставляемых услуг.
Таким образом истец пытался обойти статью 230 Закона о благопристойности в сфере коммуникаций от 1996 года, которая защищает интернет-компании от ответственности за контент, созданный пользователями. Вместо того, чтобы рассматривать Instagram и YouTube в основном как площадки для трансляции высказываний других людей, в судебном процессе некоторые из их основных функций рассматриваются как варианты дизайна, которые могут нанести предсказуемый вред, особенно когда ими пользуются дети.
Озабоченность Goldman связана со структурными особенностями. «Если истцы смогут сосредоточиться на том, как устроен сервис,вместо контента, который предоставляется с помощью этого дизайна, они всегда будут делать это, — говорит он, — и, согласно этому суду, это означает, что они всегда будут обходить раздел 230, и в результате раздел 230, по сути, уничтожен.&»Что бы ни случилось при рассмотрении апелляции, это дело подвергает новому анализу ряд технических решений», — говорится в сообщении. Артуро Баар, бывший инженер Facebook, который разрабатывал инструменты безопасности в компании, а затем давал показания перед Сенатом США в 2023 году, говорит, что спорные функции были созданы в первую очередь для привлечения внимания. «Бесконечная прокрутка, автозапуск были разработаны для увеличения количества затрачиваемого времени», — говорит он. «Уведомления выбираются в зависимости от скорости, с которой они возвращают пользователей в приложение.»
Он говорит, что эти функции «не подвергались каким-либо значимым проверкам безопасности. В частности, не был задан и не исследован вопрос о безопасности «Какой вред присущ этой функции?». По его словам, защита безопасности была отменена в ходе внутренней проверки. «Функции, которые при разработке концепции должны были обеспечить значимую безопасность, были сведены на нет» благодаря тому, что компания назвала минимально жизнеспособным процессом создания продукта», так что конечный результат оказался неэффективным для обеспечения безопасности».
Оспариваемые функции — оптимизированные для удержания системы ранжирования, бесконечные каналы рассылки, настройки по умолчанию, благоприятствующие пассивному потреблению, и уведомления — это решения, разработанные для того, чтобы привлечь наше внимание. Би Джей, который работал в Facebook с 2009 по 2015 год и был консультантом Instagram с 2019 по 2021 год, приводит примеры компромиссов, которые, по его словам, он видел изнутри. Он вспоминает, что Instagram однажды внедрил механизм ограничения сеанса, который отображал сообщение «вы все увлечены». Позже в нижней части ленты появились предлагаемые посты, что позволило людям продолжать прокручивать их. Он дает представление о масштабе: на момент его второго пребывания в компании, которая сейчас называется Meta, в компании работало около 30 000 инженеров, но доля команды, занимающейся вопросами благополучия, сосредоточенной на ключевых проблемах подростков — самоубийствах, психическом здоровье — составляла менее 20 человек.p>
На практике более безопасный дизайн означает больше разногласий и меньше принуждения: менее агрессивные настройки по умолчанию, функции, которые требуют от пользователей активного участия, и продукты, цель которых не заключается в том, чтобы автоматически удерживать человека в течение длительного времени. как можно дольше.
Исследователи из Института взаимодействия человека и компьютера Университета Карнеги-Меллон, в том числе Хэнк Ли и его научный руководитель Совик Дас, попытались измерить, что происходит, когда вы отменяете некоторые из этих вариантов дизайна. Их команда создала Purpose Mode, расширение для браузера, которое удаляет элементы, привлекающие внимание — бесконечную прокрутку, автозапуск, алгоритмические рекомендации — с платформ социальных сетей.Ли говорит, что участники исследования в режиме «Цель» чувствовали себя менее отвлеченными, проводили на сайтах меньше времени — в среднем на 21 минуту меньше в день — и в некоторых случаях им это нравилось. платформ стало больше, когда эти функции были сокращены. Это было небольшое исследование, но оно предполагает, что, по крайней мере, некоторые из механизмов, которые сейчас оспариваются, можно изменить — и что повторение их не обязательно испортит впечатление.
Некоторые из наиболее привычных вариантов оформления внезапно кажутся менее неизбежными. Автозапуск может быть отключен по умолчанию. Уведомления могут стать более редкими, и их будет проще отключить. Рекомендательные системы могли бы быть менее агрессивными, особенно для молодых пользователей. Большая часть продукта могла бы быть разработана для того, чтобы помочь пользователям отдохнуть, а не мешать им это делать.
Ничто из этого не было бы бесплатным; те же функции, которые заставляют пользователей прокручивать страницы, часто являются единственными это повышает вовлеченность, количество рекламных объявлений и количество повторных посещений.
Голдман говорит, что Meta и Google могут оспорить вердикт по нескольким основаниям: закон об ответственности за качество продукции был разработан для физических продуктов и физических травм, что причинно-следственная связь не была доказана полностью в случае с ранее существовавшей травмой, что Первая поправка защищает свободу действий редакции и что раздел 230 должен применяться как к разработке, так и к распространению, поскольку на практике эти два понятия трудно разделить.
Дикинсон согласен с тем, что апелляция будет рассмотрена в юридическая сфера, а не фактическая. Апелляционные суды, как правило, полагаются на присяжных в вопросах доказательств и причинно-следственной связи, что означает, что победу истца на основании фактов — что дизайн платформы причинил ей вред — будет трудно оспорить. «Для истцов это самое большое преимущество: теперь они твердо придерживаются фактов», — говорит он. «Их более сложной задачей при подаче апелляции будет юридическая» — убедить апелляционный суд в том, что различие между дизайном и содержанием выдерживает проверку в соответствии с разделом 230 и Первой поправкой.
Вердикт не изменит положение в социальных сетях немедленно. Но это ослабляет одну из защит современной ленты: бесконечная прокрутка, автозапуск и агрессивные уведомления — это просто благоприятные фоновые условия онлайн-жизни. Это выбор, который можно изменить, а теперь и оценить. Как пишет Béjar: «Не могли бы вы, пожалуйста, производить продукты, которые не вызывали бы привыкания у детей?»
