Алгоритмы действительно создают политическую поляризацию, и этот инструмент искусственного интеллекта позволяет пользователям избежать этого
Исследователи использовали расширение для браузера, чтобы изменить порядок в лентах пользователей, уменьшив их поляризующий эффект
Присоединяйтесь к нашему сообществу любителей науки!
Подпишитесь на нашу бесплатную ежедневную рассылку новостейВведите свой адрес электронной почтыЯ соглашаюсь с тем, что моя информация будет обрабатываться в соответствии с Политикой конфиденциальности Scientific American и Springer Nature Limited. Мы используем сторонние сервисы как для проверки, так и для доставки электронной почты. Предоставляя свой адрес электронной почты, вы также даете согласие на передачу этого адреса третьим лицам для этих целей.Зарегистрируйтесь
Люди часто обвиняют алгоритмы социальных сетей, которые отдают приоритет экстремистскому контенту, в усилении политической поляризации, но этот эффект было трудно доказать. Только владельцы платформ имеют доступ к их алгоритмам, поэтому исследователи не могут определить возможные изменения в поведении продуктов без сотрудничества с платформами (что встречается все реже).
Исследование, опубликованное в Science, не только предоставляет убедительные доказательства того, что эти алгоритмы вызывают поляризацию, но и показывает, что эту тенденцию можно смягчить, не получая одобрения платформы или не удаляя ее. посты.
Исследователи создали расширение для браузера, которое может опускать или перемещать вверх посты в лентах пользователей, отображающие отношение, связанное с поляризацией, такое как партийная враждебность и поддержка недемократических практик. Инструмент использует большую языковую модель (LLM) для анализа и изменения порядка записей в режиме реального времени.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
«Только платформы способны формировать и понимать эти алгоритмы», — говорит соавтор исследования и специалист по информатике из Вашингтонского университета Мартин Савески. «Этот инструмент дает такую возможность независимым исследователям».
Команда провела эксперимент в течение 10 дней в преддверии выборов в США в 2024 году. Более 1200 участников-добровольцев просмотрели ленты, в которых поляризующий контент был либо значительно понижен в рейтинге, что снижало вероятность того, что пользователи увидят его до того, как перестанут прокручивать, либо немного повышен в рейтинге.
Независимо от политической ориентации, те, для кого поляризующие посты были менее актуальны, относились теплее к группе, которая придерживалась противоположных точек зрения (на основе коротких опросов), чем те, у кого каналы не изменились, в то время как те, кто видел в столбиках с усиленной поляризацией стало холоднее.
Разница составила два-три градуса при 100-градусном «термометре на ощупь». «Это может показаться небольшим, но «это так».»это сопоставимо с тремя годами исторических изменений в среднем по США», — говорит соавтор исследования Ченьян Цзя, специалист по коммуникациям из Северо-Восточного университета. Эти манипуляции также повлияли на то, насколько сильно участники испытывали грусть и гнев во время прокрутки.
По словам психолога из Университета Торонто Виктории Олдембурго де Мелло, которая изучает, как технологии формируют поведение и общество, авторы исследования впечатляюще сочетали жесткий контроль с реальной обстановкой. “И они делают это хитроумным способом, который обходит одобрение [платформы]. Никто не делал этого раньше. ” Стойкость эффектов неясна — со временем они могут рассеяться или усилиться, добавляет она. Исследователи говорят, что это важное направление для будущей работы, и разместили свой код в свободном доступе, чтобы другие ученые тоже могли в нем разобраться.
Текущая версия инструмента работает только для браузера.-основанные на социальных сетях сайты. Создать что-то, что можно было бы использовать с приложениями, «технически сложнее, учитывая то, как [они] работают, но это то, что мы изучаем», — говорит Савески.
Исследователи также планируют изучить другие методы воздействия на каналы социальных сетей, используя гибкость, предоставляемую LLM-анализом, добавляет Савески. «Наша концепция очень общая, и можно думать о благополучии, психическом здоровье и так далее».
Оцените материал: