Компания ChatGPT, пионер в этой области, запускает модель Jev для программной логики.

Стартапы и финансирование в сфере искусственного интеллекта

Компания ChatGPT, пионер в этой области, запускает модель Jev для программной логики.

Компания TypeSafe, основанная одним из соавторов ChatGPT, вышла из режима скрытой разработки и запускает свою модель Jev для автоматизации программных решений с помощью архитектуры параллельной выборки.

Благодаря выпуску компанией TypeSafe AI модели Jev, специализированной модели System One, предназначенной для выполнения структурированных вероятностных решений непосредственно в кодовых базах производственных систем, программные системы, требующие автоматизированной детерминированной логики, теперь могут обходить модели разговорного языка.

Разработанная в течение двух лет в режиме секретности ветераном OpenAI и соавтором ChatGPT Диого Алмейдой, эта модель полностью отказывается от генерации текста и строк.

Вместо авторегрессивной генерации последовательных текстовых токенов, система принимает на вход неструктурированное состояние и выдает типобезопасные структурированные значения в одном параллельном запросе. Архитектура ориентирована на детерминированную интеграцию кода, предотвращая синтаксические ошибки типов и искажения выходных данных по своей сути.

Диого Алмейда, основатель TypeSafe, сказал: «Представьте Jev как вызов функции в области передовых интеллектуальных вычислений: на входе — неструктурированное состояние, на выходе — типизированные вероятностные решения».

Архитектура модели Jev: как работает параллельная выборка с учетом аппаратного обеспечения.

Инженеры разработали платформу на основе альтернативной методики обучения, получившей название «обучение с подкреплением для калиброванных решений» (Reinforcement Learning for Calibrated Decisions, RLCD).

Традиционные модели обучения с использованием алгоритмов обучения с подкреплением и обратной связью от человека (RLHF) или с подкреплением и проверяемыми вознаграждениями (RLVR) обучаются для удовлетворения предпочтений человека в разговорной речи или для выполнения отдельных программных проверок. TypeSafe же обучает Jev генерировать калиброванные вероятности для логики выполнения, обеспечивая прямую корреляцию возвращаемых оценок достоверности с точностью выходных данных.

Отказавшись от авторегрессивной генерации токенов, Jev использует аппаратно-зависимый параллельный сэмплер, который одновременно оценивает и выдает все структурированные значения.

Структурное ограничение ограничивает выходные данные предопределенными схемами, устраняя конвейеры синтаксического анализа и защитные оболочки, необходимые при развертывании традиционных больших языковых моделей в потоках автоматизации бизнес-процессов. Внутренний сэмплер обрабатывает выборки с высокой кардинальностью, до 255 дискретных вариантов, используя двухэтапный процесс, который оценивает варианты независимо друг от друга перед выбором.

Внутренние оценки, проведенные на серверах команды на Западном побережье, зафиксировали сквозную задержку ответа в диапазоне от 70 до 500 миллисекунд, в отличие от 3–329 секунд, наблюдавшихся в ходе развертывания решений для диалогового взаимодействия.

Опубликованные результаты оценки рабочих процессов, проведенной на фиксированных вычислительных графах (измерение многошагового ветвления принятия решений по сравнению с согласованными базовыми показателями из GPT-6 Astra и Fable 5.1), показали скорость выполнения до 193,6 раз выше.

Стоимость обработки входных данных составляет 0,042 доллара США за миллион токенов, что ниже стандартных тарифов на обмен данными, варьирующихся от 0,20 до 10 долларов США за миллион токенов. Поскольку параллельная выборка генерирует структурированные состояния без авторегрессивных проходов генерации токенов, TypeSafe предоставляет выходные токены без платы за учет.

От ботов Doom до петабайтных данных: тестирование развертывания Jev в реальных условиях.

Демонстрации в производственной среде показывают, как Jev обрабатывает правила ветвления в высокоскоростных игровых состояниях и деревьях обхода веб-страниц. В ходе динамического стресс-тестирования инженеры запускали реактивного бота в реальном времени, обрабатывающего структуры состояний игры Doom со скоростью 10 запросов в секунду, что приводило к эксплуатационным расходам в размере приблизительно 7 долларов в час.

В рамках дополнительного теста Wikiracing оценивался выбор ссылок в плотно структурированных каталогах энциклопедий, при этом обход ссылок завершался за меньшее количество шагов, чем при использовании внешних моделей, не основанных на логическом рассуждении, за счет оценки вариантов без создания ложных тупиков.

Полевые испытания подтверждают пригодность этих технологий для решения основных задач, таких как извлечение признаков в реальном времени, обработка данных петабайтного масштаба, проверка выходных данных и автоматическая логика ветвления, где правила, написанные вручную, оказываются ненадежными.

Сегодня TypeSafe открыл ранний доступ для разработчиков и начал привлекать инженерные команды из списка ожидания развертывания.

См. также: Microsoft AI начала проверку Кодекса поведения гуманистического ИИ.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com