Nvidia запускает новые открытые модели для запуска агентов в корпоративной среде и на ПК.

В четверг компания Nvidia представила новые модели с открытым исходным кодом, предназначенные для постоянно работающих агентов и граничных вычислений.

Nemotron 3.5 Super VL — это мощная модель с 120 миллиардами параметров, предназначенная для корпоративных агентов. Хотя она использует меньше параметров, чем модель Nemotron 3 Ultra, Nvidia утверждает, что она обеспечивает аналогичную точность при выполнении инструкций и использовании инструментов.

С другой стороны, компания также выпустила две облегченные модели Bolt. Они предназначены для локальной работы на новых ПК с поддержкой ИИ (работающих на чипе Nvidia RTX Spark) и рабочих станциях с процессором DGX Spark. Такие ПК, ориентированные на потребителей, программистов и корпоративных специалистов, уже сейчас поступают на рынок через таких партнеров, как Microsoft и Dell.

«Теперь любая организация, желающая запускать агенты на инфраструктуре Nvidia, имеет открытую, оптимизированную модель для своего уровня, не выбирая между возможностями и развертыванием», — написала вице-президент Nvidia по открытым моделям и программному обеспечению Кари Бриски в сообщении в блоге, посвященном анонсу этих моделей.

Nvidia утверждает, что Super VL выполняет задачи быстрее, чем конкурирующие модели от Anthropic и OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra), при условии последующего обучения на конкретных задачах, связанных с агентами. К таким задачам относятся анализ документов, финансовый учет, научные эксперименты, обработка медицинских страховых претензий и устойчивость к атакам на систему безопасности.

Хотя подобные заявления являются стандартными при анонсе новой модели крупной технологической компанией, Nvidia подкрепила их списком ведущих компаний, которые, по ее словам, используют Super VL. В этот список входят Skydance, EY, Ramp, Crowdstrike, Perplexity и Salesforce.

Конечно, это не первые открытые модели, выпущенные Nvidia, которые конкурируют с проприетарными передовыми лабораториями — компаниями, которые являются одновременно её клиентами и её инвестициями. У гиганта в области графических процессоров есть целое семейство моделей Nemotron, которые выполняют всё: от многомодального искусственного интеллекта до логического мышления, программирования, математики и автоматизации предприятий.

Однако эти быстрорастущие проприетарные лаборатории искусственного интеллекта теперь обращаются ко многим другим производителям чипов и систем ИИ, помимо Nvidia, чтобы удовлетворить свои потребности (например, к Trainium и Cerebras от AWS, а также разрабатывают собственные чипы).

Таким образом, Nvidia активно поддерживает тенденцию, когда корпоративные компании хотят запускать собственные открытые модели в своих центрах обработки данных. «В отличие от закрытых моделей, организации могут обучать Super VL на собственных данных, развертывать его на собственной инфраструктуре и владеть тем, что они создают», — написал Бриски.

Но, анонсировав более компактные модели для локального рынка, компания также пытается продвинуть зарождающуюся тенденцию потребительских ИИ-помощников. Хотя кажется, что каждый день стартапы и крупные технологические компании представляют нового ИИ-помощника, потребители, обеспокоенные конфиденциальностью, могут не захотеть так глубоко впускать таких агентов в свою жизнь, предоставляя им доступ к информации о своих семьях, здоровье, финансах и так далее.

Таким образом, Nvidia надеется создать для себя новый рынок, продавая ПК на базе своих чипов, путем создания машин, которые запускают модели и агенты локально, чтобы пользователи ПК могли «делегировать повседневные задачи… без отправки этих рабочих нагрузок в облако», — написал Бриски.

Из двух моделей Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB — это модель с 74 миллиардами параметров, разработанная для локальных задач, выполняемых агентами. Она призвана сбалансировать скорость и логическую обработку для многошагового анализа, вызова инструментов и просмотра веб-страниц. Самая маленькая модель Bolt E4B предназначена для диалоговых агентов.

По данным Nvidia, модели Super VL и Bolt 74B-A9B уже доступны для покупки, а Bolt E4B появится в продаже позже в этом месяце.

Источник: techcrunch.com