Как управлять инвестициями в ИИ в эпоху агентных вычислений | OpenAI

Пять практических шагов для понимания использования ИИ, контроля расходов и инвестирования в работу, приносящую наибольшую пользу.

• 1. Повысить прозрачность использования и расходов.
• 2. Оцените эффективность модели по показателю рентабельности инвестиций (ROI).
• 3. Управляйте сложными рабочими процессами до того, как они начнут масштабироваться.
• 4. Финансируйте процессы, которые могут приносить значительный доход.
• 5. Согласуйте производственные мощности с подтвержденным спросом.

• 1. Повысить прозрачность использования и расходов.
• 2. Оцените эффективность модели по показателю рентабельности инвестиций (ROI).
• 3. Управляйте сложными рабочими процессами до того, как они начнут масштабироваться.
• 4. Финансирование рабочих процессов, способных к наращиванию капитала.
• 5. Согласуйте производственные мощности с подтвержденным спросом.

Цель OpenAI — сделать ИИ более доступным, функциональным и недорогим в долгосрочной перспективе. С GPT-4 до GPT-5.4 цена за миллион токенов снизилась на 97%. GPT-5.6 продолжает этот прогресс, демонстрируя лучшие результаты в индексе агентов искусственного интеллекта с уменьшением количества выходных токенов на 54% и сокращением времени выполнения задачи на 57%.

Однако цена токена сама по себе не показывает, создает ли ИИ ценность. Руководителям следует оценивать полезную работу на каждый потраченный доллар : выполненные задачи, сэкономленное время, улучшенные решения и масштабируемые рабочие процессы.

По мере перехода команд от чата к более длительным рабочим процессам администраторам необходима более четкая информация о спросе, расходах и рисках.

Вот пять способов инвестировать с уверенностью.

1. Повысить прозрачность использования и расходов.

Руководителям предприятий необходимо четкое представление об использовании ИИ: кто его использует, какие продукты или модели они применяют, какой объем ресурсов они потребляют и какие задачи выполняет это использование. Без этой информации сложно интерпретировать растущие расходы. Они могут отражать неэффективное использование ресурсов, продуктивные эксперименты или рабочий процесс, который начинает приобретать критически важное значение для бизнеса.

ChatGPT Work поддерживает более длинные, многоэтапные задачи, поэтому использование может сильно различаться в зависимости от рабочего процесса. Администраторам необходимо видеть объем работы, стоящий за этим использованием, а не только потребленные кредиты. Это возможно благодаря общему представлению спроса в ChatGPT. Обновленная аналитика использования и контроль расходов в консоли администратора (открывается в новом окне) помогают администраторам отслеживать внедрение, использование кредитов и расходы по пользователям, продуктам и моделям; отслеживать тенденции во времени; выявлять новые закономерности; и понимать, когда использование отражает широкое внедрение, рабочий процесс опытного пользователя или повторяющийся бизнес-процесс, который может заслуживать дополнительных инвестиций.

Анализ данных с разных уровней помогает принимать обоснованные инвестиционные и инновационные решения:

• Рабочее пространство: Согласуются ли темпы внедрения и расходов?
• Команда и пользователь: Где растет спрос, и кому может потребоваться дополнительная поддержка?
• Продукт и модель: Где используются более дорогостоящие интеллектуальные решения, и сохраняется ли этот спрос?

В совокупности эти данные помогают администраторам решать, куда инвестировать, кого обучать или устанавливать ограничения.

2. Оцените эффективность модели по показателю рентабельности инвестиций (ROI).

Самая низкая цена токена не всегда означает самую низкую общую стоимость. Более дешевая модель может дать сбой, потребовать повторных попыток или создать задачи, требующие исправления. Более совершенная модель может стоить дороже за токен, но быстрее достичь приемлемого результата, с меньшим количеством попыток и меньшим объемом проверок.

Оценивайте модели по тому, какую работу они должны выполнять. Используйте оценки, отражающие реальные задачи , включая крайние случаи, и определите «достаточно хороший» результат до начала тестирования. Затем измерьте полную стоимость достижения этого стандарта: использование модели и инструмента, количество попыток, процент завершения, задержка и проверка человеком.

Для приоритетных рабочих процессов отслеживайте стоимость каждого принятого результата . В службе поддержки клиентов это может быть решенная проблема. В инженерном отделе это может быть протестированное изменение, прошедшее проверку. Сопоставьте эту стоимость с бизнес-ценностью, такой как сэкономленное время, сокращение времени цикла, сохранение дохода, предотвращенные риски или созданные мощности.

Выбор модели — лишь часть решения. Четкие инструкции, целенаправленные инструменты, многократно используемый контекст и явные условия остановки могут сократить количество циклов и неэффективных затрат. Цель состоит в том, чтобы подобрать модель и рабочий процесс, соответствующие задаче: использовать более мелкие или быстрые модели, когда они соответствуют требуемому уровню качества, и оставлять передовые методы анализа для сложных, неоднозначных или ответственных задач.

3. Управляйте сложными рабочими процессами до того, как они начнут масштабироваться.

Руководители предприятий должны рассматривать управление как операционный уровень, определяющий, какие задачи, связанные с ИИ, могут масштабироваться. Практическая задача состоит в определении того, какой контекст может использовать ChatGPT, к каким инструментам он может получить доступ, какие действия он может предпринять, кто утверждает шаги с повышенным риском и как предоставляется дополнительная мощность, когда команды находят ценные рабочие процессы.

Это становится еще важнее по мере того, как команды внедряют плагины, коннекторы, функции управления использованием компьютеров и другие новые возможности, которые могут работать в рамках корпоративных систем. ChatGPT Work предоставляет администраторам централизованный контроль доступа, утвержденного контекста, подключенных инструментов, разрешенных действий, использования и расходов. Контроль расходов, такой как настройки рабочего пространства по умолчанию, групповые ограничения, индивидуальные переопределения и запросы на проверку с учетом контекста проекта, помогает руководителям поддерживать высокоэффективную работу, не повышая лимиты для всех.

Для приоритетных развертываний инженеры OpenAI по развертыванию ИИ (открывается в новом окне) могут напрямую сотрудничать с клиентами по вопросам оценки, архитектуры, задержки, надежности и проектирования рабочих процессов для повышения как производительности, так и экономической эффективности. Конфиденциальность и управление должны быть частью этой работы с самого начала: для масштабируемых рабочих процессов, требующих конфиденциальности, необходимы правильные средства контроля доступа, политика хранения данных, прозрачность соответствия требованиям и пути утверждения. В соответствующих случаях корпоративные средства контроля конфиденциальности OpenAI, включая опции нулевого хранения данных (открывается в новом окне) , могут помочь клиентам развертывать ИИ в средах с высоким уровнем доверия.

4. Финансирование рабочих процессов, способных к наращиванию капитала.

Руководители предприятий должны управлять инвестициями в ИИ как портфелем: широкий доступ для повышения повседневной производительности, специализированные рабочие процессы, улучшающие повторяющиеся задачи, и меньшее количество стратегических инвестиций, основанных на уникальной корпоративной среде. Наиболее перспективными являются рабочие процессы, которые повторяются в значительных масштабах, имеют четкое распределение ответственности и могут быть измерены по качеству, риску и бизнес-ценности.

Финансирование должно соответствовать стадии зрелости. На этапе исследования следует проверить, может ли модель справиться с задачей; на этапе валидации следует проверить репрезентативные случаи на соответствие четко определенным стандартам качества; финансирование производства должно поддерживать интеграцию, контроль, надежность и управление изменениями, необходимые для масштабирования. Общие возможности, такие как идентификация, доверенные коннекторы, курируемые знания, оценки, наблюдаемость, маршрутизация модели и многократно используемые шаблоны агентов, должны финансироваться централизованно, чтобы запуск каждого нового рабочего процесса становился проще и безопаснее.

5. Согласуйте производственные мощности с подтвержденным спросом.

После того как рабочий процесс докажет свою эффективность, руководители должны привести продукт, мощности и модель поддержки в соответствие с потребностями. ChatGPT Work предоставляет готовые возможности для чата, программирования, рабочих процессов агентов, коннекторов, плагинов, использования компьютеров и администрирования. Компании могут расширить эту основу за счет собственных данных, разрешений, оценок и логики рабочих процессов, где эти элементы создают дифференцированную ценность.

Для производственных нагрузок коммерческая структура должна соответствовать моделям использования: Guaranteed Capacity — для производственных систем и агентов, которым необходима гарантированная доступность, Scale Tier — для предсказуемых высоконагруженных API-запросов, а Batch API — для асинхронной работы или повторяющегося контекста , Flex processing — для асинхронной работы или повторяющихся контекстов.

Для более масштабных стратегических проектов OpenAI Frontier и Deployment Company (открывается в новом окне) могут помочь предприятиям создавать, развертывать и управлять ИИ-коллегами в рамках корпоративных систем. Такой подход позволяет руководителям масштабировать проверенные решения, используя подходящий продукт, ресурсы и модель поддержки, вместо того чтобы перестраивать инфраструктуру для каждого рабочего процесса.

Источник: openai.com