После того, как Meta смягчила свои правила, количество расистских комментариев в адрес политиков утроилось.

В Facebook также резко возросло количество угроз насилия в адрес законодателей.

Meta предлагает программу верификации для пользователей Facebook и Instagram. Источник: Getty Images | Chesnot Meta предлагает программу верификации для пользователей Facebook и Instagram. Источник: Getty Images | Chesnot

В прошлом году Meta радикально пересмотрела правила, касающиеся контента, который она разрешает на своих платформах. Компания заявила, что ее собственные усилия по контролю за свободой слова зашли слишком далеко, и что она смягчит правила, касающиеся разрешенных высказываний. «Мы слишком жестко соблюдали наши правила, ограничивали законные политические дебаты и подвергали цензуре слишком много тривиального контента, а также слишком многих людей сталкивались с неприятными мерами принуждения», — написал тогда в своем блоге Джоэл Каплан, главный директор Meta по глобальным вопросам.

Спустя более года новое исследование Центра по борьбе с цифровой ненавистью (CCDH) показывает непосредственное влияние этих изменений.

Исследователи проанализировали около 8 миллионов комментариев в Facebook и обнаружили, что количество оскорбительных и расистских комментариев, направленных против законодателей-республиканцев и демократов, утроилось за шесть месяцев после введения новых правил. В некоторых категориях оскорбительных комментариев, зафиксированных исследователями, наблюдался еще более резкий рост: количество угроз насилия и разжигания ненависти за тот же период увеличилось в четыре раза.

В докладе приводятся конкретные примеры гендерных и расистских оскорблений в адрес законодателей, таких как члены Палаты представителей США Жасмин Крокетт из Техаса и Байрон Дэниелс из Флориды. Эти комментарии не были удалены Meta.

Исследователи из CCDH также обнаружили, что количество угроз в адрес президента Трампа увеличилось более чем вдвое за шесть месяцев после того, как Meta пересмотрела свои правила. Многие из этих комментариев, включавшие прямые угрозы его жизни, могли быть классифицированы как уголовные преступления, говорят исследователи.

Чтобы оценить влияние этих изменений в правилах, исследователи CCDH выбрали 100 членов Палаты представителей, состоящих из 50 республиканцев и 50 демократов с наибольшим количеством подписчиков в Facebook. Затем исследователи проанализировали почти 8 миллионов комментариев к постам этих законодателей в Facebook за шесть месяцев до и после изменений в политике Meta.

Исследователи использовали систему искусственного интеллекта, обученную выявлять в наборе данных комментарии, которые, вероятно, нарушали действующие правила Meta в трех областях: насилие и подстрекательство, разжигание ненависти, а также травля и домогательства.

Количество комментариев, нарушающих правила Meta в отношении угроз насилия, увеличилось в четыре раза: с 1800 за шесть месяцев до изменений до 7600 за шесть месяцев после. Количество комментариев, содержащих разжигание ненависти, также увеличилось в четыре раза: с 6900 до 30 000. Количество комментариев, нарушающих правила Meta в отношении травли и домогательств, удвоилось: с 15 700 до 39 900.

«Мы регулярно публикуем отчеты, отслеживающие контент, нарушающий правила на наших платформах, и распространенность ненавистнических высказываний не увеличилась в течение 2025 года», — заявил представитель Meta изданию WIRED, добавив, что компания не может напрямую комментировать утверждения отчета, не ознакомившись с исследованием в полном объеме. WIRED предоставило список оскорбительных комментариев, упомянутых в отчете, но Meta не прокомментировала их. За несколько часов до публикации отчета многие из приведенных примеров были удалены из Facebook.

«Когда компании ослабляют контроль в таких областях, как насилие, ненависть и домогательства, не стоит удивляться тому, что эти негативные последствия усиливаются», — заявил сенатор Джон Кертис, республиканец от штата Юта и член Комитета по торговле, науке и транспорту, в своем заявлении для CCDH.

Данные, собранные исследователями CCDH, находят отражение в собственных отчетах Meta о прозрачности за 2025 год, которые показывают, как компания сократила примерно вдвое применение мер по превентивной модерации контента в течение нескольких месяцев после изменения политики. «Резкий рост злоупотреблений и резкое снижение эффективности мер практически точно совпадают», — пишут авторы отчета.

Хотя компания Meta утверждала, что ее решение смягчить правила в отношении оскорбительного контента было продиктовано принципами свободы слова, эксперты говорят, что экстремистский контент, подобный комментариям, рассмотренным в этом отчете, является тем типом контента, который, как показали исследования, пользуется наибольшей популярностью на платформах социальных сетей.

«Угрозы и оскорбления показывают хорошие результаты, как и ответные меры на них», — говорит Нина Янкович, генеральный директор American Sunlight Project, которая некоторое время возглавляла Совет по управлению дезинформацией при президенте Джо Байдене. «Они заставляют пользователей прокручивать ленту и удерживать внимание на рекламе. Отказываясь от модерации контента, платформы усиливают распространение оскорбительного контента, экономят на «расходах» на обеспечение безопасности своей платформы и попадают в политическую зависимость от администрации, которая утверждает, что модерация контента — это цензура».

Рост угроз в адрес законодателей имеет реальные последствия. В марте полиция Капитолия сослалась на участившиеся угрозы в адрес политиков при обсуждении увеличения бюджета. Бывшая конгрессмен США от штата Джорджия Марджори Тейлор Грин, которая, согласно отчету, чаще всего сталкивалась с оскорбительными комментариями, упомянула угрозы своей жизни как одну из причин своего ухода из общественной жизни.

«Мы наблюдаем ужасающую тенденцию политического насилия, от последнего нападения на президента до убийства Чарли Кирка и покушения на Мелиссу Хортман и ее мужа», — говорит WIRED Имран Ахмед, генеральный директор Центра по борьбе с цифровой ненавистью. «Законодатели отменяют встречи с избирателями; они переносят их в онлайн-формат. Сотрудники избирательных комиссий увольняются. Представители власти публично заявляют, что страх стать мишенью влияет на их решения при голосовании. Я не понимаю, как публикация, распространение и несоблюдение собственных правил против такого рода преследований, угроз и ненависти на почве идентичности могут быть каким-либо образом представлены как моральный поступок. Я думаю, что для этого требуется невероятная степень лицемерия».

Эта статья первоначально была опубликована на сайте wired.com.

Источник: arstechnica.com