Разгильдяйство в области искусственного интеллекта стимулирует запросы на записи в воображаемых журналах
Международный комитет Красного Креста предупредил, что модели искусственного интеллекта используются в научных статьях, журналах и архивах.
Дэн Вергано под редакцией Клэр Кэмерон
Присоединяйтесь к нашему сообществу любителей науки!
Подпишитесь на нашу бесплатную ежедневную рассылку новостейВведите свой адрес электронной почтыЯ соглашаюсь с тем, что моя информация будет обрабатываться в соответствии с Политикой конфиденциальности Scientific American и Springer Nature Limited. Мы используем сторонние сервисы как для проверки, так и для доставки электронной почты. Предоставляя свой адрес электронной почты, вы также даете согласие на передачу этого адреса третьим лицам для этих целей.Зарегистрируйтесь
Никогда не слышали о Журнале международной помощи или международное гуманитарное цифровое хранилище? Это потому, что их не существует.
Но это не мешает некоторым из самых популярных в мире моделей искусственного интеллекта отправлять пользователей на поиски подобные записи, согласно новому заявлению Международного комитета Красного Креста (МККК).
Чат OpenAI, Gemini от Google, второй пилот Microsoft другие модели вводят в заблуждение студентов, исследователей и архивистов, создавая «неверные или сфабрикованные архивные ссылки», согласно данным МККК, который управляет некоторыми из наиболее часто используемых исследовательских архивов в мире. (Scientific American попросил владельцев этих моделей искусственного интеллекта прокомментировать.)
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее.. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Модели искусственного интеллекта не только указывают некоторым пользователям на ложные источники, но и создают проблемы для исследователей и библиотекарей, которые в конечном итоге тратят свое время на поиск запрошенных несуществующих записей, говорит Сара, руководитель отдела взаимодействия с исследователями Библиотеки Вирджинии Падает. По оценкам ее библиотеки, в настоящее время 15 процентов запросов приходится на вымышленные цитаты, в том числе как на опубликованные работы, так и на уникальные документы-первоисточники. «Нашим сотрудникам гораздо сложнее доказать, что уникальной записи не существует», — говорит она.
Это не первый случай, когда ИИ уличают в составлении ложных цитат. МККК рекомендует людям обращаться к онлайн-каталогам или ссылкам в существующих опубликованных научных работах, чтобы найти ссылки на реальные исследования, вместо того чтобы предполагать, что все, на что ссылается искусственный интеллект, является реальным, независимо от того, насколько авторитетно это может звучать. Фоллс говорит, что библиотека Вирджинии попросит исследователей проверить свои источники на предмет соответствия этим запросам и сообщить, был ли источник получен от искусственного интеллекта. «Мы, вероятно, также сообщим нашим пользователям, что мы должны ограничить количество времени, которое мы тратим на проверку информации».
Оцените материал:
