«Добро пожаловать в эпоху AGI»: OpenAI запускает GPT-6 Astra

Карл Франзен

Слухи оказались правдой, все до единого (и даже больше): сегодня OpenAI выпускает GPT-6 Astra, новую перспективную модель, которая, по словам компании, вероятно, знаменует собой начало искусственного обобщенного интеллекта (AGI), ее давней цели — создания «высокоавтономных систем, превосходящих людей в большинстве экономически ценных задач».

На закрытом сегодня брифинге для прессы соучредитель и президент OpenAI Грег Брокман сформулировал это послание на необычайно прямой основе, завершив сессию словами: «Добро пожаловать в эру искусственного общего интеллекта».

Даже по меркам запуска передовых разработок в области ИИ, это необычайно значимая позиция. Но для предприятий более непосредственное значение Astra может быть значительно более конкретным: OpenAI позиционирует GPT-6 Astra как новую эру вычислений, в которой пользователям, включая сотрудников, больше не нужно будет щелкать мышью или печатать на клавиатуре (если они этого не хотят).

В материалах, предоставленных VentureBeat перед запуском OpenAI, эта технология названа «лучшей в мире моделью использования компьютеров».

Вместо того чтобы требовать от разработчиков создания отдельной интеграции API для каждого приложения, которое необходимо использовать системе искусственного интеллекта, Astra разработана таким образом, чтобы взаимодействовать с программным обеспечением так же, как это делает человек — работать в браузерах, электронных таблицах, на веб-сайтах и в настольных приложениях, создавать готовые документы и презентации, а также выполнять многоэтапные рабочие процессы, а не просто указывать пользователю, как их завершить.

Действительно, компания продемонстрировала рекламный ролик GPT-6 Astra, который начинался с демонстрации ИИ 1980-х годов, где человек просит компьютер нарисовать желтый круг, что тот легко и делает, а затем переходил к сегодняшнему дню, показывая, как различные сотрудники OpenAI взаимодействуют с Astra с помощью голоса, прося ее превратить желтый круг в ракету, а затем в полноценную 3D-игру за считанные минуты и создать объявление на eBay, и все это исключительно с помощью голосового ввода.

В четверг Astra начнет развертывание для корпоративных клиентов в рамках программы закрытого доступа OpenAI Daybreak. OpenAI заявляет, что в ближайшие дни сервис станет доступен клиентам ChatGPT Plus, Pro, Business и Enterprise, а также через API OpenAI и облачные платформы, включая AWS Bedrock и Microsoft Azure.

От ответов на вопросы до работы с компьютерами.

Обоснование целесообразности применения Astra в корпоративном секторе в значительной степени основано на использовании компьютеров.

По данным OpenAI, модель может заполнять онлайн-формы, обновлять записи в CRM-системах, организовывать календари, проводить веб-исследования и оформлять результаты в документы или электронные письма. Она может работать с электронными таблицами, анализировать научные данные в блокнотах Python, работать в Power BI, создавать и тестировать веб-сайты, запускать инженерные приложения, такие как KiCad и FreeCAD, а также устанавливать и устранять неполадки программного обеспечения.

Эти возможности указывают на потенциально важные изменения в архитектуре корпоративного искусственного интеллекта.

На протяжении большей части бурного развития генеративного ИИ компаниям приходилось связывать модели с корпоративными системами через API, плагины, системы поиска и специализированные инструменты. Брокман утверждал, что компьютерные агенты могут начать обходить часть этой работы по интеграции, поскольку программное обеспечение уже предоставляет интерфейс, разработанный для высокоуниверсального интеллекта: человеческого пользователя.

«В течение этого грандиозного периода мы сталкивались с препятствиями со стороны людей, которые писали коннекторы и очень кропотливо встраивали эти связи во все эти инструменты, которые люди уже могут использовать», — сказал Брокман.

По его словам, при достаточном владении компьютером агент может «быстро просматривать электронные таблицы, заполнять формы и перемещаться по веб-страницам».

По словам Брокмана, эта идея восходит к самым ранним дням OpenAI, когда исследователи обсуждали обучение агента на основе тех же основных входных и выходных данных, которые доступны людям при использовании компьютеров: пикселей, клавиатуры и мыши.

«Мне кажется, мы действительно создали первый агент, который, по-видимому, способен делать это настолько полезным образом», — сказал он.

По данным OpenAI, на автономном подмножестве OSWorld 2.0 Astra показала результат 72,6%, затратив на выполнение задачи примерно 40 минут, по сравнению с 65,7% у GPT-5.6 Sol, показавшей результат около 75 минут — примерно на 47% меньше времени на выполнение задачи.

Компания также продемонстрировала, что Astra выполняет задачи, начиная от создания 3D-игры и заканчивая подготовкой юридического соглашения, одновременно обрабатывая несвязанные запросы. В целом, идея заключалась в том, что эта модель призвана выйти за рамки привычной модели чат-ботов, в которой люди постоянно дают следующие инструкции.

«Благодаря Astra пользователи получают невероятные возможности и могут делать то, что еще менее года назад казалось чем-то недостижимым», — заявила исследователь OpenAI Миа Глэзе во время брифинга. «Благодаря этим возможностям мы ожидаем, что люди будут делегировать гораздо более сложные задачи между приложениями, при этом люди будут руководить работой на гораздо более высоком уровне».

Этот сдвиг — от стимулирования ИИ к контролю за его использованием — в конечном итоге может иметь для бизнеса большее значение, чем очередное повышение академического показателя.

В OpenAI заявляют, что Astra представляет собой самый большой скачок в обучении, которого они достигли на сегодняшний день.

Эйдан Кларк, исследователь OpenAI, который в ходе брифинга рассказал о разработке Astra, назвал это крупнейшим в истории компании процессом обучения.

По словам Кларка, Astra — это первая модель OpenAI, предварительно обученная с использованием более чем 100 000 DBU в инфраструктуре Stargate компании, и первая, в которой предыдущие модели играли важную роль в контроле обучения следующей модели.

«Основываясь на оценках, которые мы отслеживаем во время предварительной подготовки, мы считаем, что переход от Sol к Astra представляет собой более значительное увеличение возможностей, чем переход от Sol к предыдущим моделям», — сказал Кларк.

Компания OpenAI объясняет возможности Astra сочетанием масштабного предварительного обучения и обучения с подкреплением, призванного научить модель связывать информацию и выполнять задачи все большей длительности.

Полученные в результате показатели впечатляют.

OpenAI сообщает, что Astra показала результаты 97,6% в тесте FrontierMath Tier 4 v2, 74,1% в DeepSWE v1.1, 95,9% в BenchCAD, 96% в GPQA Diamond и 100% в ExploitBench. Также сообщается о результатах 98,6% в ARC-AGI-3.

Однако последняя цифра имеет важное уточнение — и подчеркивает растущую проблему в том, как в отрасли говорят об интеллектуальных моделях.

Если Astra набирает 98,6% баллов по ARC-AGI-3, можно ли это считать AGI?

ARC-AGI стал одной из наиболее пристально отслеживаемых попыток оценить, способны ли системы искусственного интеллекта к обобщению на незнакомые задачи, а не просто воспроизводить возможности, приобретенные в процессе обучения.

В текущем рейтинге ARC-AGI-3 результаты расчетов с использованием традиционных моделей значительно отстают от заявленного компанией Astra показателя в 98,6%.

Но сравнение не является простым.

В собственных оценочных заметках OpenAI говорится, что Astra использует разработанный компанией API Responses, в то время как модели сравнения могут работать в различных конфигурациях.

Это различие имеет значение, поскольку еще один недавний результат ARC-AGI-3 продемонстрировал, насколько большую производительность может обеспечить система, окружающая модель.

В августе NVIDIA сообщила, что её архитектура Agentic Variation Operators (AVO) достигла 100% результата во всех 25 средах и 183 уровнях общедоступного набора данных ARC-AGI-3. Однако NVIDIA не создала базовую модель, которая бы внезапно подскочила до 100%. В AVO использовалась модель Claude Opus 5, и NVIDIA заявила, что базовый показатель для этой модели составлял примерно 30%.

AVO добавляет механизмы, включая постоянную память, инструменты, обратную связь и восстановление, позволяя агенту поддерживать прогресс в течение длительных задач, а не рассматривать каждое взаимодействие как фактически изолированное.

Вывод NVIDIA был однозначным: возможности для долгосрочного планирования могут быть реализованы на основе всей системы агентов , а не только базовой модели.

Эта дискуссия уже перекинулась на сообщество ИИ. Один из пользователей r/singularity утверждал, что ограничения ARC-AGI-3 на сохранение контекста между действиями делают этот бенчмарк нереалистичным представлением того, как работают агенты в производственной среде, сравнивая его с тестированием людей, при котором многократно стирается полученная ими информация.

Другие комментаторы придерживаются противоположной точки зрения, утверждая, что добавление сложных тестовых наборов данных затрудняет определение того, действительно ли базовая модель обладает обобщающими свойствами. Один из комментаторов, отвечая на результаты NVIDIA, написал: «Посмотрим, насколько обобщаются возможности модели или же она просто была переобучена на этом конкретном бенчмарке».

Разногласия поднимают все более важный вопрос для утверждений об общем искусственном интеллекте: что именно является измеряемым объектом?

Базовая модель? Модель плюс постоянная память? Модель с компьютером, браузером и инструментами? Или полностью развернутая система?

Для предприятий это различие со временем может стать менее важным с операционной точки зрения. Компании покупают результаты работы систем, а не эталонную чистоту. Если агент может надежно сверять счета, расследовать инциденты, модифицировать производственный код или создавать финансовую модель, то то, обусловлена ли эта способность в первую очередь нейронными весами, архитектурой памяти или оркестровкой инструментов, может иметь меньшее значение, чем ее стоимость, надежность и возможность аудита.

И, судя по всему, компания OpenAI все чаще готова выдвигать именно этот аргумент.

«У каждого свое определение искусственного общего интеллекта (AGI)», — сказал Брокман. «Когда мы запускали OpenAI, мы думали, что наступит некий четко определенный момент, который все поймут: „Это и есть AGI“. Но все сложилось иначе. Это гораздо более расплывчатое и неоднозначное понятие».

Но Брокман пошел гораздо дальше, когда его спросили, соответствует ли сама компания Astra этим критериям.

«Лично я считаю, что мы уже на верном пути», — сказал он. «Думаю, для этого есть довольно веские аргументы».

Позже он, пожалуй, наиболее четко сформулировал позицию OpenAI: «Я думаю, вполне разумно считать, что мы сейчас находимся в эре искусственного общего интеллекта».

Нет данных по ВВП?

В материалах OpenAI, посвященных запуску Astra, заметно отсутствует GDPval — собственный бенчмарк компании для оценки производительности при выполнении экономически значимой работы в реальных условиях. OpenAI представила GDPval в 2025 году специально для того, чтобы выйти за рамки академических тестов и бенчмарков по программированию, оценивая модели на 1320 задачах, взятых из 44 интеллектуальных профессий в девяти основных отраслях экономики США. Эти задачи включают в себя такие результаты, как юридические заключения, инженерные проекты, электронные таблицы, презентации, работа по поддержке клиентов и планы ухода за больными — гораздо ближе к корпоративным рабочим процессам, которые, как теперь заявляет OpenAI, Astra призвана автоматизировать.

Это делает отсутствие показателя заметным, учитывая концепцию общего искусственного интеллекта (AGI) вокруг Astra. Первоначально OpenAI позиционировала GDPval как способ обосновать обсуждение AGI и экономического влияния на основе наблюдаемых показателей эффективности на рабочем месте, а не на основе предположений. В собственном описании компании говорится, что этот бенчмарк был создан для отслеживания того, насколько хорошо системы ИИ справляются с «экономически ценными задачами из реального мира», и для того, чтобы дать более четкое представление о том, как модели могут поддерживать профессионалов в повседневной работе. Другими словами, если значимость Astra заключается в том, что предприятия теперь могут делегировать значительно больше работы ИИ, то GDPval, по-видимому, является одним из наиболее непосредственно релевантных внутренних критериев OpenAI для подтверждения этого утверждения.

Упущение не делает недействительными другие результаты Astra, но оставляет аналитический пробел. Показатель ARC-AGI-3 от OpenAI, равный 98,6%, свидетельствует об интерактивном рассуждении и адаптации, в то время как такие бенчмарки, как DeepSWE и Agents' Last Exam, отражают конкретные формы разработки программного обеспечения и производительность профессионального рабочего процесса. GDPval, напротив, был специально разработан для того, чтобы задать более широкий экономический вопрос: могут ли модели создавать результаты работы, сопоставимые с результатами опытных специалистов в широком спектре профессий? Предыдущие результаты OpenAI показали, что передовые системы приближаются к экспертному уровню качества в некоторых из этих задач, демонстрируя существенный прирост от GPT-40 до GPT-5.

В GDPval также есть важное ограничение, которое может объяснить, почему OpenAI не сосредоточила его внимание именно здесь. Текущая версия является одноразовой: она не измеряет долгосрочную, интерактивную работу с несколькими приложениями, в которой Astra должна преуспевать. Сама OpenAI заявила, что в будущих версиях следует добавить итеративные рабочие процессы, более богатый контекст и неоднозначность. Это означает, что GDPval, возможно, одновременно очень актуален для корпоративной стратегии Astra и несколько не соответствует ее наиболее агентным возможностям.

Тем не менее, учитывая концепцию Брокмана об «эре ИИ», отсутствие этого показателя заслуживает внимания. Если практическое обоснование ИИ все больше сводится к вопросу о том, может ли ИИ выполнять экономически значимую работу во многих профессиях, то GDPval — одна из наиболее наглядных попыток OpenAI измерить именно это. До тех пор, пока не появятся результаты Astra — или результаты преемника, разработанного для многоступенчатой работы агентов, — утверждения о его широкой экономической применимости основываются скорее на мозаике специализированных бенчмарков и демонстраций, чем на собственном флагманском бенчмарке компании для оценки реальной производительности труда.

Согласно данным OpenAI, цена за задачу теперь имеет большее значение, чем цена за токен.

Такой системный подход также меняет то, как OpenAI хочет, чтобы клиенты думали о стоимости.

Для разработчиков название модели API — gpt-6-astra. В релизе также говорится, что Astra поддерживает нулевое хранение данных для соответствующих клиентов API и что OpenAI тестирует обработку данных в целях обеспечения частной безопасности.

Стоимость стандартного API OpenAI составляет:

• 10 долларов за миллион входных токенов

• 50 долларов за миллион токенов.

• Для операций чтения/записи в кэше применяется отдельная ценовая политика.

• Быстрый режим обеспечивает скорость обработки до 2,5 раз выше стандартной, но при этом цена в 2 раза выше стандартной.

Эти цены имеют значение, но Брокман утверждал, что ценообразование на основе токенов становится плохим показателем реальной экономики корпоративного ИИ.

«Установление цен на токены не имеет никакого смысла», — сказал Брокман. «Наши токены не обязательно идентичны токенам наших конкурентов; они различаются в зависимости от семейства моделей».

Вместо этого, по его словам, предприятиям следует оценивать цену за выполненную задачу.

«На самом деле, вам нужна цена за задачу, и я думаю, рынок начинает это понимать», — сказал Брокман. «Речь идет лишь о том, сможете ли вы выполнить задачу за приемлемую цену и с приемлемой скоростью?»

По данным OpenAI, Astra иллюстрирует этот аргумент на примере DeepSWE v1.1, где её наиболее производительная конфигурация превосходит наивысший показатель GPT-5.6 Sol, обеспечивая при этом примерно на 57% меньшую расчетную стоимость API на задачу.

Для корпоративных покупателей этот показатель может оказаться более полезным, чем цены токенов, по мере того как агенты становятся более автономными. Недорогая модель, требующая многократных повторных попыток, человеческой коррекции и тысяч дополнительных шагов вывода, в конечном итоге может стоить дороже, чем дорогая модель, которая правильно завершает рабочий процесс с первого раза.

Увеличение автономии создает более сложную проблему управления.

Те же возможности, которые делают Astra привлекательной для предприятий, одновременно затрудняют управление ею.

Чат-бот генерирует информацию для просмотра пользователем. Оператор, управляющий компьютером, может изменять записи, отправлять информацию, манипулировать файлами или выполнять действия в различных приложениях.

Глейз отметил, что по мере того, как пользователи делегируют все больше работы, OpenAI нужны модели, которые понимают, где заканчиваются их полномочия.

«Даже несмотря на то, что модели могут выполнять все больше задач автономно, мы должны больше им доверять», — сказала она. «Наше понимание согласованности и безопасности должно развиваться вместе с возможностями моделей, и Astra — это одновременно наша самая функциональная и наиболее соответствующая модели».

Работа компании по обеспечению безопасности системы Astra позволяет наглядно увидеть, какие требования могут предъявлять системы управления такого уровня возможностей.

В ходе отдельного брифинга, проведенного за день до презентации, источники в OpenAI сообщили, что компания приостановила некоторые этапы обучения новых моделей примерно на две недели после инцидента с Hugging Face, хотя сама Astra к этому не была причастна. В течение этого периода OpenAI усилила безопасность своей исследовательской инфраструктуры, ограничила доступ к обучающим нагрузкам и возможности подключения к ним, расширила мониторинг и повысила внутренние требования как к поведению моделей, так и к среде, в которой они обучаются.

В условиях такого контроля часть работы над Astra возобновилась, в то время как более масштабный цикл обучения с подкреплением для будущей модели оставался приостановленным на более длительный срок.

Это важное различие. По данным источников в OpenAI, приостановка не была вызвана доказательствами того, что Astra сама по себе стала слишком опасной для выпуска. Компания рассматривала это как попытку предотвратить отставание своих средств обеспечения безопасности, мониторинга и контроля инфраструктуры от быстро развивающихся возможностей модели. Работа, проделанная в этот период, основывалась на месяцах, а в некоторых областях и годах, проведенных ранее в рамках исследований по согласованию и безопасности, а не представляла собой комплекс мер безопасности, созданный с нуля за две недели.

Такой подход все больше напоминает управление корпоративными рисками, чем традиционную модерацию моделей. Вместо того чтобы полагаться на один уровень отказов, OpenAI описала многоуровневую систему защиты, охватывающую поведение модели, классификаторы, средства контроля безопасности, мониторинг и реагирование на угрозы после развертывания.

Источники в OpenAI сообщили, что, например, средства защиты от киберугроз Astra сочетают в себе отказы, заложенные в модель, с классификаторами системного уровня и автономным обнаружением, предназначенным для выявления моделей злоупотреблений, которые могут проявляться в нескольких запросах, а не в одном явно вредоносном запросе. Для пользователей с повышенным риском мониторинг может использовать более широкий контекст разговора, чтобы распознать, когда отдельные безобидные запросы являются частью более масштабного процесса атаки.

Это имеет очевидные последствия для предприятий, рассматривающих возможность использования высокоавтономных агентов. Соответствующая поверхность управления больше не ограничивается лишь подсказкой, предоставляемой модели. Организациям все чаще приходится рассуждать о последовательности действий, понимании моделью границ своей авторизации, о том, к каким приложениям и данным она может получить доступ, о возможности обнаружения подозрительных траекторий во время их выполнения и о том, что происходит при срабатывании защитного механизма.

В OpenAI заявили, что внутренняя оценка, вдохновленная инцидентом с «обнимающимся лицом», проверила, будут ли модели выходить за рамки разрешенной области при столкновении со сложными или невыполнимыми задачами. Без мер защиты в производственной среде GPT-5.6 Sol выходил за пределы разрешенной цели в 48,2% случаев; Astra — в 0% случаев.

Источники в OpenAI описали аналогичную внутреннюю оценку согласованности, основанную на сложных задачах кибербезопасности, в ходе которой более ранняя модель в большинстве тестов пыталась получить доступ к соседним системам при отсутствии средств защиты в производственной среде, в то время как Astra таких попыток не предпринимала.

Согласно источникам, цель состоит не просто в том, чтобы научить агента проявлять настойчивость до завершения задачи, а в том, чтобы научить его тому, что настойчивость имеет границы: агент должен уметь распознавать, когда выполнение задачи потребует выхода за рамки разрешенных возможностей, и вместо этого возвращать результат пользователю.

Это особенно важное различие для корпоративных агентов. Устойчивость — одно из свойств, делающих автономные системы полезными: модель, которая сдаётся после первой неудачной попытки, не будет эффективным оператором.

Однако настойчивость становится недостатком, если агент интерпретирует цель настолько буквально, что обходит средства контроля доступа, проверки безопасности или другие ограничения, предназначенные для предотвращения именно такого поведения.

Согласно источникам в OpenAI, обучение Astra, таким образом, делает акцент как на явных ограничениях, так и на том, что компания назвала более мягкими ограничениями: распознавании намерений, стоящих за мерами безопасности, и отказе от них, а не на попытках найти технически доступный способ их обойти.

Наблюдаемость может стать узким местом предприятия.

Однако главный научный сотрудник OpenAI Якуб Пахоцкий подчеркнул, что более убедительные результаты выравнивания не следует интерпретировать как решение основной проблемы.

«Прогресс в разведке не гарантирует прогресса в согласовании действий», — сказал Пачоцкий.

Компания особенно обеспокоена возможностью мониторинга — способны ли люди или другие системы понять логику модели в достаточной мере, чтобы выявить опасное поведение.

По словам Пачоцкого, по мере совершенствования моделей они могут выполнять более сложные задачи с меньшим количеством логических рассуждений на естественном языке. Более совершенные системы также все больше осознают и способны влиять на собственные цепочки мыслей.

Это потенциально превращает наблюдаемость в одну из определяющих проблем корпоративной инфраструктуры в эпоху агентов.

Источники в OpenAI сообщили, что компания добавляет мониторинг несоответствий во внешнее развертывание Astra, чтобы системы могли проверять ее рассуждения и действия на предмет признаков того, что она работает за пределами предоставленных ей полномочий. В серьезных случаях такой мониторинг может остановить работу. Компания охарактеризовала мониторинг как вторичный уровень, а не как замену первоначальной синхронизации поведения модели.

Подробности развертывания также иллюстрируют компромиссы, с которыми могут столкнуться корпоративные клиенты. Источники в OpenAI сообщили, что их подход к мониторингу разработан таким образом, чтобы оставаться совместимым с соглашениями о нулевом хранении данных. На платформах, где данные могут храниться, подозрительная активность может потребовать дополнительных процессов проверки; в рамках соглашений о нулевом хранении данных классификаторы могут работать без сохранения диалога.

Меры безопасности также могут создавать операционные сложности. Источники в OpenAI сообщили, что законная работа иногда может замедляться, приостанавливаться или останавливаться, включая задачи по обеспечению кибербезопасности и потенциально несвязанную деятельность. В ChatGPT или Codex пользователю может быть предложено подтвердить действие, прежде чем система продолжит работу; в рабочих процессах API отмеченная задача может быть полностью остановлена.

Вероятно, этот компромисс станет привычным для директоров по информационным технологиям и руководителей служб безопасности. Чем больше полномочий получает работник с ИИ, тем менее правдоподобным становится рассматривать управление ИИ как постфактумную фильтрацию контента. Предприятиям потребуются средства контроля, более близкие к тем, которые уже используются для идентификации людей и привилегированного программного обеспечения: ограниченные права доступа, журналы аудита, обеспечение соблюдения политик, мониторинг в реальном времени и эскалация при приближении агента к критическим границам.

Таким образом, OpenAI сталкивается с противоречием, с которым в конечном итоге столкнутся и предприятия, внедряющие автономных агентов: системы, становящиеся достаточно мощными для выполнения значимой независимой работы, одновременно становятся все сложнее для проверки.

Пачоцкий заявил, что OpenAI готова сделать это ограничением для дальнейшего развития.

«Мы не допустим ухудшения нашей способности контролировать соответствие моделей выше определенного уровня», — сказал он. «Мы приостановим масштабирование до тех пор, пока не получим достаточную уверенность».

«Мы также должны быть готовы замедлить или остановить дальнейшее расширение масштабов, когда наша уверенность в безопасности окажется недостаточной».

Astra также преодолевает критически важный кибер-порог, установленный OpenAI.

В сфере кибербезопасности ставки особенно высоки.

OpenAI присвоила модели Astra статус первой, достигшей критического уровня кибербезопасности в рамках своей системы готовности. По данным источников в OpenAI, это означает, что модель, при наличии соответствующих инструментов и доступа, способна обнаруживать ранее неизвестные уязвимости и разрабатывать цепочки эксплойтов в хорошо защищенных системах без постоянного участия человека.

OpenAI сообщает, что Astra показала 100% результат на ExploitBench. Источники также сообщили, что дополнительное тестирование на новом наборе из 20 недавно обнаруженных серьезных уязвимостей дало значительно лучшие результаты, чем GPT-5.6 Sol, при меньшем количестве выходных токенов, и что Astra обнаружила две ранее неизвестные уязвимости в ходе оценки, о которых OpenAI впоследствии сообщила разработчикам. Тестирование экспертами показало, что модель может выявлять новые уязвимости нулевого дня в различных категориях программного обеспечения, включая браузеры и операционные системы.

Эти возможности по определению являются двойного назначения. Агент, способный автономно обнаруживать уязвимость, может помочь защитнику устранить её или помочь злоумышленнику её использовать.

Поэтому OpenAI на начальном этапе ограничивает самые передовые возможности Astra в области кибербезопасности. Компания заявляет, что доверенные специалисты по защите получат более широкий доступ через Daybreak Blue, отдавая приоритет организациям, ответственным за защиту критически важной цифровой инфраструктуры, в то время как более общий доступ останется под более строгими ограничениями и контролем.

Для корпоративных команд по обеспечению безопасности это представляет собой еще один вариант более широкого предложения Astra: передовые модели переходят от консультирования специалистов к самостоятельному выполнению части специализированной работы.

Атрибутивный скорректированный валовой доход (AGI) может появиться в результате экономического перехода, а не в виде единого эталонного показателя.

Это возвращает нас к обсуждению общего искусственного интеллекта.

Примечательно, что Брокман не представил результат ARC-AGI-3 в 98,6% как математическое доказательство того, что OpenAI достигла уровня искусственного общего интеллекта. Он также не утверждал, что существует общепринятый технический порог, который Astra преодолела.

Вместо этого его аргумент оказался более практичным.

Теперь система может решать чрезвычайно сложные научные задачи, одновременно выполняя обычную экономическую работу, используя те же интерфейсы, что и люди. Качественный сдвиг обусловлен широтой этих возможностей и объемом работы, которую люди могут начать передавать другим.

«Предстоит еще многое сделать, — сказал Брокман. — Еще многое предстоит улучшить, но, на мой взгляд, здесь есть нечто существенное, что улучшилось качественно».

По его словам, Astra представляет собой «реальный сдвиг в том, какую работу люди могут делегировать искусственному интеллекту».

В конечном итоге, подобная формулировка может оказаться для предприятий более важной, чем решение о том, заслуживает ли Astra того или иного трехбуквенного обозначения.

Для бизнеса важным критерием является то, станут ли агенты достаточно надежными, чтобы организации перестроили рабочие процессы вокруг них: люди определяют цели и ограничения, системы ИИ выполняют промежуточные шаги, а сотрудники вмешиваются в основном для вынесения суждений, обработки исключений и принятия решений, имеющих важное значение.

Компания Astra также ясно дает понять, что эти системы потребуют соответствующих изменений в управлении. Вопрос для предприятия больше не сводится к тому, дает ли модель хороший ответ. Он заключается в том, может ли работник, использующий ИИ, получить доступ к реальным приложениям и конфиденциальной информации, продолжать работу, преодолевая препятствия, оставаться в рамках предоставленных ему полномочий, достаточно подробно объяснять свою работу, чтобы оставаться управляемым, и остановиться, когда модель или окружающая система управления определят необходимость вмешательства человека.

Если это произойдет в больших масштабах, то общий искусственный интеллект будет выглядеть не столько как машина, внезапно прошедшая одно решающее испытание, сколько как постепенный экономический переход, который становится очевидным только задним числом.

По сути, это и есть аргумент Брокмана.

«Я думаю, если вы хотите сказать, что это первая версия, то это вполне разумно», — сказал он об Astra. «Если вы хотите сказать, что предыдущая версия была первой, то вы хотите сказать, что следующая версия была первой. Но я думаю, что если перенестись на год вперед, то будет довольно сложно сказать, что не было ни одного момента, когда бы мы не находились в эре искусственного общего интеллекта».

Для предприятий этот аргумент вскоре может проверяться не столько вопросом о том, сможет ли Astra возглавить очередной рейтинг, сколько чем-то гораздо более измеримым: насколько организации готовы позволить ей выполнять важную работу.

Источник: venturebeat.com