Появление исследовательских работ, созданных с помощью искусственного интеллекта, знаменует собой поворотный момент, который может радикально ускорить открытие — или утопить его в автоматизированной посредственности.
Наука всегда полагалась на любознательного человекав уме этого человека формируется гипотеза, разрабатывается эксперимент, анализируются результаты и излагается суть дела коллегам. На протяжении веков мы создавали более совершенные инструменты, такие как электронные микроскопы, ускорители элементарных частиц и суперкомпьютеры, но основным источником научных открытий неизменно оставался человек. Теперь, впервые, этот цикл начался с нового типа мышления.
До сих пор ученым часто приходилось прибегать к помощи искусственного интеллекта для решения заранее определенных узких задач, таких как сворачивание белков, говорит Джефф Клюн, профессор компьютерных наук в Университете Британской Колумбии. «Мы говорим, что ИИ должен стать ученым», — говорит он.
В недавнем исследовании Nature Клун и его коллеги представили AI Scientist, систему искусственного интеллекта, которая написала статью без участия человека, которая прошла экспертную оценку для семинара в Международная конференция по обучающим представлениям (ICLR), которая состоится в 2025 году, является ведущим мероприятием в области машинного обучения. По мнению Клюна и других экспертов, статья была посредственной. Но его существование знаменует собой поворотный момент, с которым научное сообщество только начинает сталкиваться: искусственный интеллект быстро перешел от помощи ученым к попыткам стать таковым.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистскую деятельность, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Программа AI Scientist состоит из нескольких модулей. После того, как исследователи предложат ему общую тему, он просматривает доступную литературу и выдвигает гипотезы. «Мы просто задаем общее направление, например, «Придумываем что-нибудь интересное для изучения того, как ИИ учится», — объясняет Клун. Затем система оценивает и уточняет эти идеи, отфильтровывая все, что не является новым. Далее модули планируют и проводят эксперименты, анализируют и строят графики данных и, наконец, пишут статью. По словам Клуна, он даже проводит собственную внутреннюю экспертизу, чтобы найти недостатки в своих статьях. (Система основана на существующих базовых моделях, таких как Claude Sonnet от Anthropic или GPT-4o от OpenAI; вклад команды заключается в конвейерной обработке этих моделей).
Чтобы убедиться, что результаты работы ученого в области искусственного интеллекта соответствуют человеческим стандартам, команда представила три подготовленные им работы на семинар «Не могу поверить, что лучше быть не может» (ICBINB) на ICLR 2025. Один из них был принят. (Организаторы конференции дали свое разрешение на публикацию статей, созданных с помощью искусственного интеллекта, и все работы ученых в области искусственного интеллекта были сняты с конференции после процесса рецензирования.)
команда the AI Scientist признает, что планка для этого семинара была ниже, чем для основной публикации на конференции. «Сможет ли посредственный аспирант получить одну из трех принятых работ в заведении, которое принимает 70 процентов работ? Конечно!» — говорит Джоди Шнайдер, доцент кафедры информационных наук Висконсинского университета в Мэдисоне, которая не участвовала в исследовании Clune.
Искусственный интеллект&Документы «в порядке, но не очень хороши», — говорит Клун. По его мнению, некоторые идеи ИИ казались по-настоящему креативными, однако система испытывала трудности с реализацией. «Логика, написание и мышление на протяжении всей статьи не очень хорошо сочетались друг с другом», — отмечает он. Другие проблемы включали в себя искаженные ссылки, дублированные цифры и отсутствие методологической строгости.
В целом, новое исследование Клюна и его коллег было встречено прохладно. «Этот подход является агентурным и не содержит какой-либо реальной новизны», — говорит Мария Лиаката, профессор обработки естественного языка в Лондонском университете Королевы Марии, которая не принимала участия в работе.
По мере снижения затрат и увеличения скорости выпуска статей, написанных с помощью искусственного интеллекта. поставьте перед научным сообществом неотложную задачу. «Статьи, написанные с помощью искусственного интеллекта, вероятно, значительно ухудшат ситуацию», — предупреждает Янан Суй, доцент Университета Цинхуа в Китае и старший руководитель семинара ICLR 2026.
Чтобы защититься от этого наводнения, ведущие заведения начали устанавливать ограничения. «Для основной конференции существуют строгие правила, которые не позволяют представлять статьи, написанные исключительно с помощью ИИ», — говорит Суи. Компромиссом на данный момент является принудительная прозрачность — авторы, использующие ИИ, должны четко указать, как он был использован. Однако Суи признает, что журналам и конференциям обычно не хватает инструментов для надежного обнаружения материалов, созданных с помощью искусственного интеллекта.
Между тем, инструменты для автономного написания этих материалов уже начали распространяться. Intology заявила, что ее AI Zochi прошел экспертную оценку для основных материалов 63-го ежегодного собрания Ассоциации компьютерной лингвистики (хотя исследователи-люди были вовлечены в такие области, как проверка результатов перед отправкой и общение с экспертами-рецензентами). Другая группа под названием Autoscience Institute заявила, что ее система искусственного интеллекта создала статьи, которые были приняты на семинарах ICLR раньше, чем ученый в области искусственного интеллекта.
“Мы не сможем удалить этот возможности для создания научных статей с использованием искусственного интеллекта», — говорит Аарон Шейн, специалист по обработке данных из Чикагского университета и один из организаторов семинара ICBINB. «Эта технология будет только совершенствоваться. Я не думаю, что с этим можно что-то сделать.»
Но что, если однажды статьи, созданные с помощью искусственного интеллекта, перестанут быть посредственными?
Clune считает, что переход происходит в два этапа. «В очень краткосрочной перспективе вы получите много помоев и мусора, и с этим придется иметь дело системам экспертной оценки», — говорит он. Но в конечном счете, утверждает он, системы искусственного интеллекта будут гораздо лучше разбираться в науке, чем исследователи-люди. «Я предсказываю, что the AI Scientist на самом деле знаменует собой начало новой эры стремительного научного прогресса», — утверждает Клун, представляя, что люди превратились в кураторов, наблюдающих, как ИИ совершает научные чудеса.
Лиаката, однако, считает, что «нам, людям, еще предстоит кое-что сделать». «Я верю, что будущее — не за полностью автономными научными открытиями, а за продвинутым взаимодействием между людьми и агентами, где человек может сам решать свои задачи. может внимательно следить за процессом и вносить свой вклад в него», — говорит она.
