Конфликт OpenAI с математиками только обостряется.

Двадцать пять ведущих математиков подписали открытое письмо, в котором утверждают, что лаборатории искусственного интеллекта угрожают их интеллектуальной работе, поскольку они стремятся превзойти друг друга в решении известных математических задач. Каждый из подписавших письмо был награжден Филдсовской премией, считающейся самой престижной наградой в математике.

На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил компанию OpenAI в давлении на него с целью не указывать в качестве источника решения важной математической задачи своего коллегу, работающего в Anthropic, и задался вопросом, не использовала ли компания свою работу с Codex для создания собственного новаторского доказательства в ходе марафонских выходных, посвященных анализу данных.

В четверг компания OpenAI отозвала свое спонсорство математического мероприятия в Калифорнийском технологическом институте после того, как подверглась критике со стороны исследователей этого университета.

Хотя способность моделей искусственного интеллекта решать самые сложные математические задачи в мире могла бы стать благом для человечества, авторы нового письма утверждают, что это произойдет только в том случае, если эти решения будут понятны и донесены до математического сообщества и, в конечном итоге, до остального мира.

«Часто эти решения объявляются в спешке, не оставляя времени на надлежащее описание, выделение новых методов и идей, а также цитирование соответствующих предыдущих работ других авторов», — написали они, — и доказательство OpenAI остается неподтвержденным. «Как и во всех творческих профессиях, это вызывает серьезные вопросы об авторстве и плагиате. Более того, без желающих математиков, которые должны позаботиться об их разработке и интеграции в математический канон, идеи, разработанные с помощью ИИ, никогда не воплотятся в жизнь в полной мере, и важнейшая цепочка передачи знаний между математиками будет потеряна».

В связи с тем, что другие математики начинают испытывать паранойю и задаваться вопросом, не используется ли их опыт работы с Codex в новых моделях OpenAI, возникает реальная угроза культуре открытых исследований. Сегодня, если передовые лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя LLM-технологии, чтобы опередить первоначальных исследователей в доказательстве — динамика, которая будет стимулировать сохранение секретности.

Это письмо является продолжением Лейденской декларации, опубликованной рабочей группой математиков в июне. В этом документе также рассматриваются вопросы о том, как доказательства в рамках программы LLM повлияют на их работу, и предлагается ряд рекомендаций для математиков, учреждений и политиков.

Как и в разработке программного обеспечения и других областях, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в работе, окружающей эту работу: ценность математики заключается не только в доказательствах и распределении заслуг, но и в интеллектуальной надстройке, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.

А если вас не особенно интересует безжалостный мир сложных математических доказательств, не забывайте: ваша область интересов — следующая.

«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться все человечество: как убедиться, что по мере того, как ИИ меняет способы выполнения работы, мы не упускаем из виду то, для чего эта работа изначально предназначалась», — написали они.

Источник: techcrunch.com