Инструменты для письма на базе искусственного интеллекта все чаще интегрируются в нашу электронную почту и телефоны. Теперь новое исследование показало, что предвзятые предложения ИИ могут повлиять на убеждения пользователей
Присоединяйтесь к нашему сообществу любителей науки!
Подпишитесь на нашу бесплатную ежедневную рассылку новостейВведите свой адрес электронной почтыЯ соглашаюсь с тем, что моя информация будет обрабатываться в соответствии с Политикой конфиденциальности Scientific American и Springer Nature Limited. Мы используем сторонние сервисы как для проверки, так и для доставки электронной почты. Предоставляя свой адрес электронной почты, вы также даете согласие на передачу этого адреса третьим лицам для этих целей.Зарегистрируйтесь
Предложения по автозаполнению, пожалуй, являются одними из самых раздражающих и полезных». инструменты для написания текстов: автозаполнение все больше интегрируется во все онлайн-приложения, требующие ввода текста, и использует искусственный интеллект, чтобы подсказывать, что писать в электронных письмах, опросах и т. Д.
Эти инструменты предназначены для экономьте время (хотя многие считают, что оценка и переписывание предложенного текста занимает больше времени, чем написание его с нуля). Но эти инструменты искусственного интеллекта также могут изменить то, как вы выражаете свои мысли. Помощник по написанию текстов с помощью искусственного интеллекта может, например, сделать ваши тексты более вежливыми или скучными. А теперь новое исследование, проведенное учеными из Корнеллского университета, предполагает, что автозаполнение с помощью искусственного интеллекта может даже изменить ваш образ мыслей.
«Автозаполнение теперь повсеместно», — сказал Мор Нааман, профессор информатики в Корнелльском университете, в своем заявлении. Исследование основано на работе, опубликованной в 2023 году Нааманом и его коллегами, в которой предполагалось, что короткие предложения по автозаполнению могут повлиять на мнения. С тех пор использование таких инструментов резко возросло. «Стало ясно, что предвзятость, явно встроенная во взаимодействие с ИИ, является очень правдоподобным сценарием», — сказал он.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Исследователи попросили участников заполнить онлайн-анкету, задав вопросы по актуальным социальным и политическим вопросам. Некоторым был предложен ответ с автозаполнением с помощью искусственного интеллекта, который был намеренно смещен в сторону одной стороны вопроса. Например, участники, которых спросили, согласны ли они с тем, что смертная казнь должна быть законной, могли получить несогласное предложение с помощью искусственного интеллекта.
По всем различным темам опроса участники, которые видели подсказки автозаполнения с помощью ИИ, сообщали об отношении, которое в большей степени соответствовало позиции ИИ — включая людей, которые этого не делали.ни в коем случае не используйте предложенный АИ текст. В целом, участники исследования, которые увидели предвзятый текст с использованием искусственного интеллекта, изменили свои позиции в пользу тех, которые поддерживает ИИ.
Интересно, что люди, участвовавшие в исследовании, не были склонны думать, что ИИ автоматически дополняет предложения были предвзяты или заметили, что в ходе исследования они изменили свое собственное мнение по тому или иному вопросу. Предупреждение участников о том, что ИИ может ввести их в заблуждение, также не уменьшило эффекта убеждения.
«Мы говорили людям до и после, чтобы они были осторожны, что ИИ будет (или был) предвзятым, и ничто не поможет», — сказал Нааман. «Их отношение к этим проблемам все еще менялось».
