Ускорение исследований: взгляд изнутри OpenAI | OpenAI

• 1. Программирование агентов меняет повседневную работу исследователей OpenAI.
• 2. Исследователи пишут больше кода и проводят больше экспериментов.
• 3. Обстоятельства применения агентов исследователями меняются.
• 4. Разработка модели темпа
• 5. Дальнейший путь
• Приложение: Наши методы для этой публикации

• 1. Программирование агентов меняет повседневную работу исследователей OpenAI.
• 2. Исследователи пишут больше кода и проводят больше экспериментов.
• 3. Обстоятельства применения агентов исследователями меняются.
• 4. Разработка модели темпа
• 5. Дальнейший путь
• Приложение: Наши методы для этой публикации

Для того чтобы искусственный общий интеллект принес пользу всему человечеству, мы считаем, что он должен управляться демократическим путем. Это возможно только посредством информированного общественного обсуждения возможностей, рисков и мер безопасности высокоэффективных систем ИИ. Люди во всем мире должны понимать вероятную будущую траекторию развития передового ИИ, чтобы иметь возможность влиять на его развитие.

Прозрачность в отношении конкретных рисков, инцидентов и мер безопасности необходима, но недостаточна. Мы считаем, что общественность также должна понимать, как развиваются наиболее эффективные системы и как они способствуют прогрессу в исследованиях в передовых лабораториях.

Наша цель — безопасно создать автоматизированного исследователя на основе ИИ, способного работать под наблюдением человека, чтобы добиться дальнейшего прогресса в глубоком обучении и согласовании, обеспечивая итеративные улучшения. Согласно нашим измерениям, мы достигли цели, объявленной (открывается в новом окне) прошлой осенью, — иметь автоматизированного стажера-исследователя к сентябрю этого года. Под «стажером-исследователем» мы подразумеваем систему, способную выполнять четко определенные исследовательские задачи под руководством человека, включая задачи, на выполнение которых квалифицированному исследователю потребовалось бы несколько дней. Мы уверенно продвигаемся к созданию автоматизированного исследователя на основе ИИ к марту 2028 года.

За этот год повседневная работа исследователей OpenAI существенно изменилась. Исследователи используют программных агентов в течение всего дня (часто в параллельных сессиях), и общее использование быстро растет, опережая рост других команд OpenAI. Исследователи быстрее вносят свой вклад в разработку кода и проводят больше экспериментов. Способы использования агентов также меняются: агенты обрабатывают все более сложные задачи и чаще успешно справляются с ними. Исследования в области ИИ — это сложный процесс со множеством потенциальных узких мест, поэтому общий темп прогресса, вероятно, не будет успевать за этими конкретными показателями. Но в целом эти результаты согласуются с общим впечатлением, которое многие из нас имеют внутри компании, о том, что агентные инструменты существенно ускоряют прогресс исследований. Люди по-прежнему определяют приоритеты исследований, оценивают, какие идеи и результаты следует развивать, и решают, масштабировать ли, приостанавливать или развертывать системы.

Мы считаем, что при ответственном подходе автоматизированные исследования в области ИИ позволят создавать модели, которые напрямую улучшат благосостояние людей и будут способствовать выполнению миссии OpenAI. Это может снизить стоимость передовых интеллектуальных систем, чтобы люди во всем мире могли извлечь из этого пользу. Мы занимаемся этой работой отчасти потому, что автоматизированные исследования могут помочь нам решить проблему согласованности и создать защиту от все более совершенных систем ИИ. Автоматизированный исследователь ИИ также может быть автоматизированным исследователем безопасности или согласованности. Более совершенные, согласованные системы могут помочь обеспечить безопасность критической инфраструктуры, защитить от опасных агентов ИИ и разработать новые защитные меры.

Это основания для разработки полезных автоматизированных исследовательских возможностей, но они не означают, что быстрая идентификация источника информации обязательно является результатом, к которому мы должны стремиться. Вопрос о том, следует ли и как действовать дальше, должен зависеть от нашей способности сохранить человеческий контроль и от осознанного демократического выбора относительно преимуществ и рисков.

Мы пока не знаем, как безопасно достичь полного согласования и полной защиты RSI. Мы работаем над масштабированием мер по согласованию и обеспечению безопасности параллельно с развитием возможностей. Но мы не можем предполагать, что прогресс в согласовании и обеспечении безопасности будет успевать за прогрессом, и более совершенные системы могут стать сложнее для мониторинга. Тщательная работа по согласованию и обеспечению безопасности лежит в основе этих усилий, и она начинается с измерения и смягчения проблем безопасности, которые мы наблюдаем сегодня в системах кодирования агентов. Всякий раз, когда мы обнаруживаем, что дальнейшее развитие представляет собой неприемлемый риск для безопасности, мы будем реагировать соответствующим образом, в том числе замедляя или прекращая разработку или развертывание систем, которые мы не можем достаточно защитить.

После недавнего инцидента с «обнимающимся лицом» мы претворили это обязательство в жизнь , приостановив обучение с подкреплением (RL) наших новейших моделей, предназначенных для развертывания, пока мы дополнительно укрепляли и проверяли на прочность наши исследовательские среды и расширяли охват наших систем мониторинга. Это не остановило все исследования: некоторые рабочие нагрузки возобновились под более строгим контролем, в то время как другие остались приостановленными. Мы повысили наши стандарты безопасности и согласованности и перенесли работу по обеспечению безопасности глубже в жизненный цикл модели, требуя более убедительных доказательств согласованного поведения на протяжении всего процесса обучения.

Сегодня мы представляем подробный обзор того, как агентные системы способствовали нашему прогрессу в области RSI за последние месяцы. Агентные системы — это новая и быстро развивающаяся область, и наши усилия по измерению пока носят предварительный характер. Делясь этими предварительными результатами и лежащими в их основе методами, мы стремимся информировать общественность, поощрять норму публичного раскрытия информации и помочь отрасли перейти к общим стандартам измерения.

В конечном счете, как мы писали в нашем плане действий в условиях новых вызовов , мы считаем, что мы и другие компании должны быть обязаны публично отслеживать наш прогресс в достижении целей RSI. Даже без такого требования мы планируем и дальше демонстрировать прозрачность в отношении нашего прогресса в достижении целей RSI. Мы будем совершенствовать наш подход к прозрачности по мере улучшения наших методов измерения и понимания ситуации, одновременно обеспечивая баланс между необходимостью защиты безопасности и конфиденциальной информации.

1. Программирование агентов меняет повседневную работу исследователей OpenAI.

В начале этого года исследователь, занимающий среднее место по использованию агентов в OpenAI, использовал программных агентов лишь в небольших количествах. К середине августа этот исследователь стал ежедневно интегрировать агентов в свою работу, используя более 600 долларов в день на выполнение вычислений по ценам API. Пользователь, занимающий 90-й процентиль в нашей исследовательской организации, теперь использует более 7000 долларов в день в виде токенов.

До июня 2026 года общее время работы агентов в исследовательской организации было меньше, чем общее время работы людей. С тех пор ситуация изменилась. Если рассматривать стандартный 8-часовой рабочий день, то по состоянию на середину августа исследовательская организация использует в среднем 3,1 рабочих дня агентов на каждый рабочий день человека.

Другой способ взглянуть на это — понять, сколько исследователей используют высокопараллельные рабочие процессы (например, запуск 4 или более агентов одновременно). Как показано ниже, это число растет. Эти данные включают ежедневные пики как агентов, запущенных непосредственно пользователем, так и субагентов, созданных после тех, которые пользователь запустил напрямую.

2. Исследователи пишут больше кода и проводят больше экспериментов.

Значительная часть исследований в области ИИ может рассматриваться как трудоемкий процесс, целью которого является интеграция новых улучшений в интеллектуальные возможности или производительность модели в одну из наших основных моделей. Этот процесс состоит из множества этапов, и возможности развиваются, когда все этапы выполняются согласованно: исследователям необходимо разработать новые улучшения, написать оценочные тесты для оценки производительности модели, создать инфраструктуру для тестирования этих улучшений в масштабе, выявлять ошибки, а также небезопасное или некорректное поведение во время обучения, и интегрировать лучшие идеи в основной цикл обучения. Сбой на любом этапе исследовательского процесса может ограничить весь цикл.

Написание кода и проведение экспериментов — два основных вида деятельности, которыми занимаются исследователи в рамках своей работы, и мы видим свидетельства того, что эти процессы ускоряются.

Эти данные относительно легко измерить, но их интерпретация может быть сложной. По мере развития автоматизации задачи, которые наименее поддаются автоматизации, будут занимать большую долю усилий исследователей и станут важными узкими местами на пути к будущему прогрессу. Вычислительные ресурсы — еще один фактор, ограничивающий прогресс, и со временем их важность может возрасти по мере уменьшения других узких мест.

К 2026 году количество экспериментов на одного активного экспериментатора увеличилось, при этом август 2026 года стал рекордным с момента начала отслеживания данных в январе 2025 года. Это коррелирует с ростом использования Кодекса, хотя мы отмечаем, что наши вычислительные ресурсы также значительно выросли с 2025 года.

3. Обстоятельства применения агентов исследователями меняются.

Как качественные наблюдения, так и внутренние данные указывают на то, что состав задач, которые исследователи делегируют агентам кодирования, меняется: со временем все чаще делегируются задачи более высокого уровня и с более длительным горизонтом планирования.

Чтобы получить более ясное представление об этой тенденции, мы проанализировали недавнее использование в исследовательской организации недавно опубликованной таксономии (открывается в новом окне) различных видов работ, входящих в жизненный цикл исследований и разработок в области ИИ, разработанной компанией Epoch AI. Эта таксономия, вдохновленная давно существующей системой O*NET для классификации всех видов работ, специально адаптирована для передовых исследований и разработок в области ИИ и разбивает процесс на шесть основных этапов:

1. Определите: над чем работать, что продолжать, куда направить ресурсы.
2. Проектирование: разработка идей и технических характеристик.
3. Сборка: код и наборы данных
4. Запуск: тренировочные/оценочные запуски, оборудование, обслуживание
5. Анализ: экспериментов, моделей, развертывания, внешних работ.
6. Обмен информацией: результаты, отзывы, статус, принятые решения.

Ниже мы классифицируем токены кодирующих агентов в соответствии с этой таксономией.

Мы видим, что во всех категориях исследовательской деятельности наблюдался рост в период с января по август 2026 года. В январе доминирующей категорией были исследования и инфраструктурный код. Эта категория расширилась, но мы также видим заметный рост в других категориях, особенно в технической поддержке и мониторинге. Планирование высокого уровня по-прежнему составляет минимальную долю токенов, используемых агентами.

По отзывам коллег, специалисты по программированию отлично справляются с устранением неполадок во внутренней исследовательской инфраструктуре, что решает одну из важных проблем, препятствующих прогрессу исследований. Несколько групп, которые ранее проводили консультации для помощи исследователям в устранении неполадок в их экспериментах, отметили снижение посещаемости в 2026 году, а одна из них полностью прекратила проведение сессий, чтобы сосредоточиться на улучшении других систем.

Здесь мы отображаем количество сообщений верхнего уровня в день в одном из основных внутренних каналов, где исследователи обращаются за технической поддержкой к другим командам. Насколько нам известно, снижение активности в этом канале не компенсировалось перенаправлением запросов в другой канал технической поддержки, управляемый людьми. Снижение трафика соответствует этому более широкому сдвигу.

Мы также можем изучить, насколько успешно агенты-программисты справляются с задачами, которые задают исследователи. Используя агентный классификатор, мы обнаружили, что с января по июль показатели успешности в целом увеличились в нескольких категориях сложности (оцениваемых как предполагаемое время, которое потребовалось бы человеку для выполнения задачи) для задач, для которых мы можем найти эталонные результаты. Однако агентам по-прежнему требуется значительное вмешательство человека для достижения успеха, особенно по мере увеличения сложности задачи. За последние 6 месяцев более половины успешных задач, занимавших от 4 до 8 часов, включали одно или несколько вмешательств.

4. Разработка модели темпа

Прогресс в создании более совершенных систем для безопасного и полезного искусственного общего интеллекта также будет зависеть от мер предосторожности, необходимых для такой работы. Наша оценка необходимых мер предосторожности может измениться по мере того, как мы будем узнавать больше о рисках.

Как мы уже описывали, мы недавно обновили наши стандарты мониторинга, согласования и безопасности. Здесь мы покажем, как недавние ограничения повлияли на один из аспектов исследовательской деятельности.

20 июля, после обнаружения факта взлома нашей исследовательской инфраструктуры злоумышленниками, мы временно отключили контейнерную службу, используемую для обучения, а затем восстановили её с существенными дополнительными ограничениями.

Это привело к резкому снижению вычислительных мощностей для обучения с подкреплением, пока команды перестраивали свои рабочие процессы для работы в условиях повышенной безопасности исследовательской среды. На графике выше показана двухнедельная пауза в обучении с подкреплением на наших последних моделях, предназначенных для развертывания. Эксперименты по обучению с подкреплением класса Astra, проводившиеся с 20 июля по 6 августа, включают в себя большинство запусков (с использованием выделенных графических процессоров), предназначенных для проверки внедрения улучшений в области безопасности.

7 августа предварительные данные о том, что Astra может обладать критически важными кибервозможностями в рамках нашей системы обеспечения готовности (открывается в новом окне), привели к дополнительным ограничениям безопасности, специфичным для данной модели, которые потребовали запуска модели Astra в исследовательских средах с более высоким уровнем безопасности. На следующей неделе распределение ресурсов GPU для класса Astra сократилось еще на 59,2%, но распределение ресурсов для других классов моделей увеличилось на 17,2%. Это увеличение компенсировало около 85% снижения для класса Astra, в результате чего общее распределение ресурсов в анализируемых рабочих нагрузках RL практически не изменилось. Эта тенденция согласуется с заменой части обучения и экспериментов на модели, не относящиеся к Astra, в период, когда работа с Astra была ограничена, и соответствует сообщениям исследователей о том, что они нашли другие способы использования вычислительных ресурсов, которые больше не могли быть использованы для рабочих нагрузок, охватываемых новыми ограничениями.

Эти данные служат полезным сигналом для дальнейших дискуссий об обучении и безопасности: при введении новых мер контроля вычислительные ресурсы остаются ценными и гибкими, и, естественно, будут перенаправлены на альтернативные цели в рамках исследовательской деятельности. В долгосрочной перспективе обсуждения темпов прогресса в области ИИ должны также включать вопрос о том, как наилучшим образом использовать вычислительные ресурсы, подлежащие новым или предлагаемым мерам контроля.

5. Дальнейший путь

Достижение и понимание прогресса в направлении согласованного подхода к RSI имеет важное значение для нашей миссии. Мы продолжим совершенствовать наши методы, сообщать о развитии нашего понимания и работать над информированным общественным обсуждением и эффективным демократическим управлением системами, находящимися на передовой.

Приложение: Наши методы для этой публикации

Исследования в области искусственного интеллекта, управляемого агентами, всё ещё находятся на начальной стадии, и мы всё ещё учимся измерять их эффективность. Некоторые показатели, такие как объём кода, создаваемый нашими исследовательскими группами, относительно легко собрать, но их сложно интерпретировать, поскольку их связь с прогрессом исследований неопределённа. Метрики, которые более непосредственно фокусируются на прогрессе исследований — например, как часто агенты успешно справляются с задачами, которые им ставят исследователи, — могли бы быть более полезными, но их разработка и проверка сложны. Ещё больше усложняет ситуацию то, что инструменты и системы, на которые полагаются исследователи, быстро развиваются. Углубление нашего понимания ускорения исследований является важным направлением работы OpenAI.

В рамках этих анализов, если не указано иное:

• «Исследователь» — это широкий термин, охватывающий любого члена нашей исследовательской организации, включая тех, кто занимается созданием исследовательской инфраструктуры, управлением исследовательскими проектами или иным образом поддерживает нашу деятельность.
• Показатели использования агентов кодирования охватывают большую часть, но не все аспекты их применения, учитывая быструю эволюцию инструментов и систем, на которые полагаются исследователи.

Источник: openai.com