Соцсети вскоре столкнутся с массовыми набегами ИИ-агентов, предупредили ученые

В обозримом будущем социальные сети могут начать подвергаться массовым атакам ботов с искусственным интеллектом, которые имитируют поведение людей и эксплуатируют склонность среднего человека следовать за толпой. Они смогут распространять не соответствующие действительности сведения, преследовать пользователей и оказывать влияние на политические процессы.

Подобные массовые набеги грозят стать новым оружием в информационных войнах. Боты с ИИ смогут имитировать поведение человека, избегая таким образом обнаружения и создавая иллюзию естественного онлайн-движения. Человеческий инстинкт часто подсказывает повторять за большинством, но в данном случае этот механизм будет управляться волей владельца ИИ-ботов, действующего от имени неизвестного лица, группы, политической партии, компании или государственного деятеля, предупредил норвежский профессор Йонас Кунст. Те, кто откажется присоединиться к виртуальной толпе, могут подвергнуться преследованиям со стороны тех же самых ботов с ИИ, стремящихся подавлять противоречащие их нарративу аргументы.

Исследователи не указывают точных сроков вторжения подобных роев ИИ, но предупреждают, что обнаружить их будет непросто — нельзя даже утверждать, что они уже не развернуты. Угроза массовых атак ботов с ИИ усугубляется тем, что наши цифровые экосистемы и без того ослаблены эрозией рационально-критического дискурса и отсутствием общего понимания реальности среди граждан. Примитивные боты уже формируют более половины всего веб-трафика, но они пока способны выполнять лишь базовые задачи, например, публиковать одно и то же подстрекательское сообщение — обнаруживать их просто, а для управления такими ботами нужны операторы.

ИИ-боты на основе больших языковых моделей окажутся значительно сложнее — они будут достаточно сложными, чтобы адаптироваться к онлайн-сообществам, в которые проникают, и внедрять наборы разных личностей, сохраняющих память и идентичность. Это будет своего рода самодостаточный организм, способный координировать свои действия, учиться, адаптироваться со временем и, таким образом, специализироваться на эксплуатации уязвимостей человека, подчеркнул профессор Кунст.

Угроза уже не гипотетическая. В прошлом году администрация сообщества Reddit пригрозила судебным иском исследователям, которые подключили чат-ботов с ИИ в эксперименте по манипулированию мнениями четырех миллионов пользователей в одном из разделов. Ответы чат-ботов были в три-шесть раз убедительнее, чем публикации живых людей, — гласят предварительные результаты исследования. Рой сможет создавать сотни, тысячи и даже миллионы ИИ-агентов: конкретный показатель будет зависеть от вычислительной мощности злоумышленника и от возможности администрации соцсети вести борьбу с этой угрозой. Но одним количеством угроза не исчерпывается: в местных сообществах будет достаточно лишь нескольких таких агентов, потому что большой наплыв новых пользователей встретят с подозрением.

Учитывая, что ИИ-агенты могут круглосуточно и без устали проводить свои кампании, пользователи соцсетей не сумеют противостоять им собственными силами. Администрациям платформ, однако, необходимо присутствие реальных пользователей, поэтому, как предполагается, вскоре появятся средства улучшенной аутентификации учетных записей. То есть люди должны будут доказывать, что они люди. Но это не панацея — в некоторых странах анонимность является защитой для политически инакомыслящих. Хотя аутентификация и значительно усложнит задачу злоумышленникам.

В качестве альтернативных мер предлагаются схемы сканирования трафика в реальном времени для выявления статистических аномалий и создание сообщества специалистов и учреждений, которые будут изучать эти атаки, реагировать на них и повышать осведомлённость общества о проблеме. Пренебрежение такими средствами грозит срывами выборов и других крупных мероприятий.

Источник: habr.com

Источник: ai-news.ru