Разговор с чат-ботом может изменить политические взгляды людей, но самые убедительные модели также распространяют больше всего дезинформации.
В 2024 году кандидат в Конгресс от Демократической партии в Пенсильвании Шамейн Дэниелс использовала чат-бота с искусственным интеллектом по имени Эшли, чтобы звонить избирателям и общаться с ними. «Здравствуйте. Меня зовут Эшли, я волонтёр с искусственным интеллектом, помогающий Шамейн Дэниелс баллотироваться в Конгресс», — начинались звонки. В конечном итоге Дэниелс не победила. Но, возможно, эти звонки помогли ей: новое исследование показывает, что чат-боты с искусственным интеллектом могут изменить мнение избирателей всего за один разговор — и они в этом на удивление хороши.
Группа исследователей из нескольких университетов обнаружила, что чат с политически предвзятой моделью искусственного интеллекта оказался эффективнее политической рекламы, побуждая как демократов, так и республиканцев поддерживать кандидатов в президенты от оппозиционной партии. Чат-боты влияли на мнение, ссылаясь на факты и доказательства, но их утверждения не всегда были точными: как выяснили исследователи, наиболее убедительные модели чаще всего лгали.
Результаты, подробно изложенные в двух исследованиях, опубликованных в журналах Nature и Science, являются последними в новой серии исследований, демонстрирующих убедительную силу степеней магистра права. Они поднимают глубокие вопросы о том, как генеративный ИИ может изменить ход выборов.
Связанная история
«Один разговор с магистром права (LLM) может существенно повлиять на важные решения при выборах», — говорит Гордон Пенникук, психолог из Корнеллского университета, работавший над исследованием Nature. Магистры права способны убеждать людей эффективнее, чем политическая реклама, поскольку они генерируют гораздо больше информации в режиме реального времени и стратегически используют её в разговорах, говорит он.
Для статьи в журнале Nature исследователи привлекли более 2300 участников для беседы с чат-ботом за два месяца до президентских выборов в США 2024 года. Чат-бот, обученный поддерживать одного из двух лидеров, оказался на удивление убедительным, особенно при обсуждении политических платформ кандидатов по таким вопросам, как экономика и здравоохранение. Сторонники Дональда Трампа, общавшиеся с моделью искусственного интеллекта, поддерживающей Камалу Харрис, стали немного более склонны поддерживать Харрис, увеличив свой рейтинг на 3,9 пункта по 100-балльной шкале. Это примерно в четыре раза превышало эффект политической рекламы, зафиксированный во время выборов 2016 и 2020 годов. Модель искусственного интеллекта, поддерживающая Трампа, увеличила рейтинг сторонников Харрис на 2,3 пункта в пользу Трампа.
В аналогичных экспериментах, проведённых в преддверии федеральных выборов в Канаде 2025 года и президентских выборов в Польше 2025 года, команда обнаружила ещё более выраженный эффект. Чат-боты изменили отношение оппозиционных избирателей примерно на 10 пунктов.
Устоявшиеся теории политически мотивированного мышления утверждают, что избиратели, разделяющие политические взгляды, невосприимчивы к фактам и доказательствам, противоречащим их убеждениям. Однако исследователи обнаружили, что чат-боты, использовавшие ряд моделей, включая варианты GPT и DeepSeek, были более убедительны, когда им было сказано использовать факты и доказательства, чем когда им было сказано этого не делать. «Люди обновляют информацию, основываясь на фактах и информации, которые им предоставляет модель», — говорит Томас Костелло, психолог из Американского университета, работавший над проектом.
Загвоздка в том, что некоторые «доказательства» и «факты», представленные чат-ботами, не соответствовали действительности. Во всех трёх странах чат-боты, поддерживающие кандидатов правого толка, сделали больше неточных заявлений, чем те, кто поддерживал кандидатов левого толка. Базовые модели обучаются на огромном объёме текста, написанного человеком, а это значит, что они воспроизводят явления реального мира, включая «политическую коммуникацию правых, которая, как правило, менее точна», согласно исследованиям публикаций в социальных сетях, проводимых представителями различных партий, говорит Костелло.
В другом исследовании, опубликованном на этой неделе в журнале Science, группа исследователей, работающая в параллель, изучала, что делает эти чат-боты столь убедительными. Они задействовали 19 магистров права для взаимодействия с почти 77 000 участников из Великобритании по более чем 700 политическим вопросам, варьируя такие факторы, как вычислительная мощность, методы обучения и риторические стратегии.
Самый эффективный способ сделать модели убедительными — это попросить участников подкрепить свои аргументы фактами и доказательствами, а затем провести дополнительную подготовку, предложив им примеры убедительных диалогов. Фактически, самая убедительная модель сместила участников, изначально не согласных с политическим заявлением, на 26,1 пункта в сторону согласия. «Это действительно значительный эффект воздействия», — говорит Коби Хакенбург, научный сотрудник Британского института безопасности искусственного интеллекта, работавший над проектом.
Но оптимизация убедительности достигалась за счёт правдивости. По мере того, как модели становились убедительнее, они всё чаще предоставляли вводящую в заблуждение или ложную информацию, и никто не знает, почему. «Возможно, по мере того, как модели учатся использовать всё больше фактов, они, по сути, достигают дна известных им данных, и поэтому качество фактов снижается», — говорит Хакенбург.
Авторы отмечают, что убедительная сила чат-ботов может иметь серьёзные последствия для будущего демократии. Политические кампании, использующие чат-ботов на основе искусственного интеллекта, могут формировать общественное мнение таким образом, что это поставит под угрозу способность избирателей принимать независимые политические решения.
Связанная история
Тем не менее, точные контуры этого влияния ещё предстоит увидеть. «Мы не знаем, как будут выглядеть будущие кампании и как они будут включать подобные технологии», — говорит Энди Гесс, политолог из Принстонского университета. Бороться за внимание избирателей — дело дорогостоящее и сложное, а вовлечение их в длительные политические беседы с чат-ботами может оказаться непростой задачей. «Будет ли это способом, которым люди будут получать информацию о политике, или это станет скорее узкоспециализированным занятием?» — спрашивает он.
Даже если чат-боты станут более активным участником выборов, пока неясно, будут ли они способствовать распространению правды или вымысла. Обычно дезинформация имеет информационное преимущество в ходе кампании, поэтому появление ИИ для предвыборной агитации «может означать, что нас ждёт катастрофа», — считает Алекс Коппок, политолог из Северо-Западного университета. «Но возможно также, что теперь и достоверная информация станет масштабируемой».
И тогда возникает вопрос: кто одержит верх. «Если у всех будут чат-боты, разгуливающие по округе, значит ли это, что мы просто уговорим себя на ничью?» — спрашивает Коппок. Но есть основания сомневаться в патовой ситуации. Доступ политиков к наиболее убедительным моделям может быть неравномерным. И избиратели разных политических взглядов могут по-разному взаимодействовать с чат-ботами. «Если сторонники одного кандидата или партии более технически подкованы, чем другие», убедительное воздействие может быть неравномерным, говорит Гесс.
Обращаясь к ИИ за помощью в жизни, люди могут начать спрашивать у чат-ботов совета по голосованию, независимо от того, требуется ли это в рамках предвыборной кампании. Это может стать тревожным фактором для демократии, если не будут установлены надёжные механизмы контроля над системами. Первым шагом может стать аудит и документирование точности результатов магистерских программ магистратуры права (LLM) в дискуссиях о политике.
Источник: www.technologyreview.com
