Учёные в кризисе теперь, когда они несут ответственность за галлюцинации ИИ в своих исследовательских работах
Даже в 2026 году все еще есть много исследователей, которые отказываются использовать ИИ для публикации своих исследовательских работ. Другие используют эту технологию для таких задач, как поиск журнальных статей для ссылок, редактирование копий или форматирование цитат, но они сталкиваются с необходимостью проверять каждое утверждение, поскольку ИИ имеет заложенный риск заразить их работу галлюцинациями.
Однако меньшинство ученых утверждает, что они должны иметь возможность использовать ИИ для написания оригинальных исследований, оставаясь при этом невосприимчивыми к любым галлюциногенным утверждениям или данным, которые попадают в конечный продукт.
На прошлой неделе исследовательский репозиторий с открытым исходным кодом arXiv объявил, что блокирует доступ к платформе ученых-авторов на срок до года, если “галлюцинированные ссылки” встречаются в их работе. Обоснование этого должно быть достаточно очевидным для любого уважающего себя ученого: как написал в своем заявлении председатель компьютерных наук arXiv Томас Дитерих, «если материал содержит неопровержимые доказательства того, что авторы не проверяли результаты генерации LLM, это означает, что мы не можем доверять ничему в статье».”
Внимание @arxiv авторы: В нашем Кодексе поведения указано, что подписывая свое имя как Автор статьи, каждый автор несет полную ответственность за все ее содержание, независимо от того, как оно было создано. 1/— Томас Г. Диттерих (@tdietterich) 14 мая 2026 г.
Как заметил TechCrunch, arXiv не запрещает ИИ полностью, а просто разъясняет, что автор несет полную ответственность за любую работу, которая выходит под его именем. Имеет смысл, правда?
По-видимому, нет. После объявления Диттерихом о X-ранее-Twitter, многочисленные исследователи немедленно перешли в наступление, разгромив платформу из-за этого решения.
“Итак, это означает, что вы ожидаете, что каждый автор будет проверять каждую цитату и убедиться, что каждая цитата реальна и точна?” Профессор экономики Смит-колледжа Джеймс Миллер ответил шокированно. ’Что, если один из авторов не может проверить одну из цитат, потому что эта цитата написана на языке, которого он не знает, или касается технического материала, который он не понимает, но другой автор статьи понимает?”
“Это слишком строго. Ошибки могут проскакивать при использовании любых инструментов. Мы не идеальны, ” — сказал Лука Амброджиони, доцент кафедры искусственного интеллекта в Институте мозга, познания и поведения Дондерса. “Оставлять подсказку — это ошибка, это неряшливо, но давать постоянный ответ за один раз небрежность — это абсурд.”
Амброджиони, который, похоже, утверждает, что получение выговора в соответствии с политикой arXiv’#8217;в отношении галлюцинаторных цитат будет равносильно фактическому “пожизненному бану” от публикации, продолжил: “мы берем не только ложные цитаты (более серьезные), но и более безобидные ошибки редактирования при копипасте. Статьи длинные, вероятность неправильной копии в дополнении не равна нулю даже в работе хорошего качества.”
Нил Амин, бывший нейробиолог и врач из Стэнфорда, ставший основателем биотехнологического стартапа, написал на X, что “вот как выглядит чрезмерная реакция и как начинается контроль.”
Подробнее о галлюцинациях ИИ: Doctors’ Системы искусственного интеллекта галлюцинируют несуществующие медицинские проблемы во время приема пациентов
Пост-академики в кризисе теперь, когда они несут ответственность за галлюцинации ИИ в своих исследовательских работах, впервые появились в статье о Футуризме.
Источник: futurism.com
Добавить комментарий
Для отправки комментария вам необходимо авторизоваться.