Математики предупреждают об угрозах искусственному интеллекту для профессии по мере его распространения в промышленности.

Международный математический союз поддерживает предупреждение о влиянии технологической индустрии.

Фото: Kenishirotie через iStock/Getty Images Фото: Kenishirotie через iStock/Getty Images

Математики предостерегли от растущего влияния технологической индустрии в заявлении, описывающем многочисленные проблемы, которые искусственный интеллект создает для математических исследований. Заявление было сделано через две недели после того, как OpenAI опубликовала результаты работы одной из своих моделей ИИ, опровергшей 80-летнюю математическую гипотезу в геометрии.

Декларация была разработана рабочей группой из 16 исследователей в течение восьми месяцев после конференции, состоявшейся в Лейденском университете в Нидерландах в сентябре 2025 года. Опубликованная 2 июня 2026 года, итоговая Лейденская декларация по искусственному интеллекту и математике была одобрена Международным математическим союзом — международной неправительственной организацией, которая проводит конференции и курирует самые престижные премии в области математики, такие как Филдсовская медаль.

«Математики должны быть весьма удивлены тем, что технологические компании внезапно заинтересовались их работой», — заявил в своем заявлении Кевин Баззард, математик из Имперского колледжа Лондона. «Лейденская декларация — это хорошо продуманный ответ на то, что происходит сейчас, поскольку искусственный интеллект продолжает менять эту область».

В Лейденской декларации, которую уже подписали сотни человек, содержится предупреждение о том, что последние разработки в области искусственного интеллекта угрожают «характерным ценностям» математических исследований, «часто таким образом, что это непропорционально затрагивает студентов и молодых математиков, а следовательно, и долгосрочное будущее этой дисциплины».

Во-первых, в нем указывается, что модели ИИ могут «выдавать правдоподобные, но ненадежные (или даже неверные) аргументы, которые трудно отличить от правильных математических доказательств». Подобные события оказывают все большее давление на рецензентов и «ставят под угрозу нашу способность внедрять традиционные стандарты корректности, прозрачности и независимой проверяемости доказательств», предупреждается в заявлении.

«Неточные черновики, созданные с помощью ИИ, обходятся дешево, и существует риск засорения научной литературы заявленными результатами, которые просто неверны», — заявила Лесли Энн Голдберг, руководитель кафедры компьютерных наук Оксфордского университета, в своем заявлении. «Как только это произойдет, ошибки, вероятно, будут распространяться, поскольку новые результаты будут строиться на ошибочных основаниях».

Во-вторых, в декларации подчеркивается, что «модели, обученные на опубликованных работах, часто выдают результаты, которые не содержат надлежащих ссылок на синтезированные ими произведения», а также указывается, что многие современные модели ИИ были обучены на данных, полученных путем «использования лицензий и соглашений о доступе» или «просто нарушения защиты авторских прав».

В-третьих, в декларации описывается, как использование ИИ «может стать стимулом ради самого себя, нарушая наши механизмы найма, финансирования и признания», в то время как исследователи, не имеющие доступа или «не желающие использовать технологии, контролируемые организациями, ценности которых они не разделяют», остаются вне поля зрения.

В-четвертых, в декларации содержится предостережение против распространения результатов математических исследований, «передаваемых по неформальным каналам, таким как пресс-релизы или сообщения в блогах, часто без каких-либо научных статей или иной информации, необходимой для научной оценки». Такие стратегии коммуникации могут привести к «чрезмерному упрощению» в сообщениях СМИ, которое переоценивает значимость инструментов ИИ в ущерб ранее сделанным человеческим достижениям и «вводит в заблуждение, используя конкретные математические задачи в качестве показателей общих способностей к рассуждению коммерческих продуктов».

В-пятых, в декларации «растущее участие технологических компаний в математических исследованиях» описывается как угроза «автономии математики», особенно в условиях давления на университетские бюджеты и возможного усиления профессиональной заинтересованности исследователей в сотрудничестве с технологическими компаниями на «асимметричных условиях». Это также повышает риск того, что приоритет может быть отдан вопросам математических исследований, поддающимся применению методов искусственного интеллекта.

Пример OpenAI

Многие из предупреждений Лейденской декларации кажутся особенно актуальными в свете того, как OpenAI объявила о математическом достижении своей модели в тот же день, когда новостные издания сообщили о подготовке компании к размещению акций среди широкой публики. В декларации особо отмечалось, что корпоративные пресс-релизы, подчеркивающие математические достижения ИИ, действуют «в соответствии с рыночными сроками, предшествующими принятой практике оценки сообществом в области математики».

«Технологическая индустрия развивается в соответствии с коммерческой логикой, которая противоречит ценностям математики», — заявил Майкл Харрис, математик из Колумбийского университета и один из авторов декларации, в интервью New York Times. Он также говорил о том, что декларация направлена на «возвращение контроля над представлением о ценностях и целях математики от индустрии искусственного интеллекта».

Компания OpenAI опубликовала исследовательскую работу, описывающую математическое доказательство своей модели ИИ, а также комментарии независимых математиков. Однако компания не раскрыла информацию о подсказках, данных для обучения ИИ и объеме вычислительных ресурсов, использованных для решения рассматриваемых математических задач, заявил Родриго Очигаме, историк и антрополог в области вычислительной техники и искусственного интеллекта из Лейденского университета и один из авторов заявления.

«Модель искусственного интеллекта является собственностью компании и недоступна никому за ее пределами», — сказал Очигаме в интервью The New York Times. «Мы получаем яркий рекламный ролик, в то время как основная информация, необходимая для оценки научного значения результата, держится в секрете».

Достижение OpenAI было «замечательным», но, вероятно, потребовало значительных вычислительных ресурсов, заявила Урсула Мартин, математик и специалист по информатике из Оксфордского университета и один из авторов декларации, в интервью The New York Times. Она предположила, что аналогичные усилия со стороны математиков-людей, вероятно, позволили бы решить эти проблемы тем же способом, и предостерегла, что математика — это также «развитие идей, понимания, суждений и человеческой проницательности» помимо решения задач.

Аналогичные выражения поддержки интеллектуальным усилиям человечества в области математики встречаются в заявлениях, опубликованных на сайте Лейденской декларации.

«По моему опыту, математические идеи, как и дети, нуждаются в взращивании и развитии на протяжении многих лет», — заявил в своем обращении Питер Шольце, директор Института математики им. Макса Планка. «Точно так же, как я не хочу, чтобы мои дети получали образование с помощью ИИ, я обдумываю свои математические идеи без использования ИИ и, как правило, стараюсь избегать чтения текста, сгенерированного ИИ».

Рекомендации для людей

Что же делать математикам-людям во время бума ИИ? Лейденская декларация рекомендует отдельным математикам прозрачно раскрывать информацию об использовании инструментов ИИ, сохранять ответственность за правильность своих математических работ, продолжать указывать авторов-людей, должным образом атрибутируя их работы, даже если инструменты ИИ затрудняют это, и рассматривать возможность использования только тех инструментов ИИ, которые соответствуют ценностям, изложенным в декларации.

В декларации также напоминается математикам, что математика «находит применение в разработке технологий, используемых в военных действиях, репрессиях, массовом наблюдении и подрыве демократии», поэтому математики должны принимать соответствующие этические решения при выборе внешних партнеров среди технологических компаний.

Профессиональные математические организации могут разрабатывать руководства по использованию ИИ и других автоматизированных инструментов в публикациях и рецензировании, защищать права исследователей как авторов посредством лицензионных соглашений, которые предотвращают использование их работ в качестве обучающих данных без согласия, и поддерживать роль рецензируемых публикаций. В декларации также предлагается, чтобы такие организации «активно готовились к участию, если важные математические результаты будут заявлены с использованием нетрадиционных средств».

Авторы декларации также предлагают простые рекомендации для политиков, в том числе «защищать права авторов», «регулировать индустрию искусственного интеллекта» и «инвестировать в общественную вычислительную инфраструктуру». В разделе «не верьте шумихе» декларация предупреждает о том, что «в настоящее время существует сильная коммерческая заинтересованность со стороны технологической индустрии в преувеличении возможностей своей продукции».

Наконец, в декларации признается, что технологическая индустрия «предлагает высокооплачиваемые рабочие места, денежное вознаграждение, вычислительные ресурсы и интеллектуально стимулирующие возможности, которые некоторые математики сочли привлекательными… в эпоху недостаточного финансирования высшего образования и нестабильной академической занятости». В ней содержится призыв к тому, чтобы такое сотрудничество между математиками и технологической индустрией соответствовало стандартам, изложенным в декларации.

«Поддерживая декларацию, Международный математический союз подтверждает, что будущее математических исследований должно определяться человеческим суждением, справедливой и прозрачной практикой, а также общими ценностями мирового математического сообщества», — заявила в своем заявлении Ульрике Тильманн, вице-президент Международного математического союза. «Математика — это и всегда должна оставаться глубоко человеческим делом».

Источник: arstechnica.com