Компания Perplexity в партнерстве с Nvidia запускает Portable Computer, полностью локальный ИИ-агент с нулевыми затратами на токены.

Майкл Нуньес

Компания Perplexity сегодня запускает Portable Computer, версию своей агентной платформы «Computer», которая полностью работает на оборудовании, уже имеющемся у пользователей, — начиная с настольного суперкомпьютера Nvidia DGX Spark и машин под управлением Linux, оснащенных графическими процессорами Nvidia RTX.

Запуск, разработанный в тесном сотрудничестве с Nvidia, является одной из самых масштабных попыток перенести серьезные задачи по созданию ИИ-агентств из облака на локальные устройства. Модель, файлы пользователя и сама работа могут оставаться на компьютере. Работа, выполненная локально, не расходует средства на оплату, и компания заявляет, что каждая задача по умолчанию запускается на устройстве — система запрашивает разрешение перед отправкой любого отдельного шага к более мощной модели в облаке.

«По сути, мы перенесли тот же самый пользовательский интерфейс в полностью локальное приложение», — заявил Нейт, вице-президент Perplexity по разработке инфраструктурных и корпоративных решений, во время пресс-брифинга в понедельник. «Это включает в себя всю необходимую инфраструктуру для работы агентов, обработку данных и все, что требуется для локальной работы».

Для Nvidia, которая последние два года занималась продвижением по всему миру центров обработки данных для ИИ стоимостью в триллионы долларов, это объявление сигнализирует о чем-то более тонком, но стратегически важном: производитель чипов считает, что локальный ИИ перешел от любительского интереса к практическому инструменту — и он хочет продавать оборудование, которое его поддерживает.

«Локальный ИИ достиг переломного момента», — сказал Надер, директор Nvidia по технологиям для разработчиков, специализирующийся на инструментах для разработчиков и открытом исходном коде. «Долгое время им пользовались любители и энтузиасты, которые запускали квантованные модели, уменьшенные до очень маленьких размеров… И хотя это здорово, это не очень практично. Но все изменилось с появлением множества новых моделей с открытым исходным кодом, которые оказались очень полезными».

Как компания Portable Computer упаковывает полный локальный стек искусственного интеллекта в одно приложение

Perplexity Computer, агентная платформа компании для работы с знаниями, координирует модели ИИ, файлы, инструменты и веб-доступ для выполнения многоэтапных задач — просмотра папок с документами, анализа данных, создания отчетов и передачи результатов в бизнес-системы. Portable Computer воспроизводит этот опыт локально: локальные модели, агентная среда, механизм вывода, инструменты, коннекторы приложений и песочница безопасности объединены в единую систему. Именно в этом и заключается смысл. В большинстве современных локальных стеков ИИ пользователям приходится собирать и эксплуатировать эти компоненты по отдельности — загружать веса модели, запускать сервер вывода, соединять инструменты и настраивать производительность.

«Исторически сложилось так, что запуск локальной среды разработки ИИ был очень сложным процессом», — сказал Нейт. «В Portable Computer мы сосредоточились на том, чтобы сделать этот процесс максимально простым и удобным для быстрого начала работы».

В ходе одной из демонстраций в понедельник система сыграла роль розничного инвестора, просматривающего папку с формами 1099 и инвестиционными документами — конфиденциальной финансовой информацией, которую многие пользователи не стали бы загружать в облачный сервис. Запустив модель Qwen с 27 миллиардами параметров на полной загрузке графического процессора DGX Spark, агент просмотрел каждый документ и отметил случаи, когда гипотетический инвестор платил ненужные сборы. Элемент интерфейса, который обычно отображает текущий счет облачных кредитов, «просто обнулен», — отметил Нейт, — «потому что все это происходит на самом устройстве».

Вторая демонстрация показала гибридную сторону продукта. Нейт, играя роль основателя стартапа, попросил агента проанализировать CSV-файл с данными о воронке продаж пользователей локально, а затем отправить готовый анализ в канал Slack, используя экосистему коннекторов Perplexity — доказательство того, что приоритет локальности не означает разобщенность.

Система также подключается к Google Drive, Gmail и GitHub и может переходить на облачную модель, когда локальная модель достигает своих пределов. На момент запуска пользователи могут установить Qwen 3.8 27B или PPLX 27B — версию, которую Perplexity обучила на собственном тестовом стенде, а Nvidia Nemotron 3.5 Lightning появится в ближайшее время.

Сегодня Portable Computer выходит для подписчиков Pro, Max, Enterprise Pro и Enterprise Max на Linux, а поддержка Windows появится в сентябре. Любая видеокарта RTX с объемом видеопамяти не менее 24 ГБ — примерно GeForce RTX 3090 или новее — соответствует требованиям, порогу, который Нейт назвал «своего рода нижним пределом, на котором мы действительно хотим обеспечить отличный пользовательский опыт, но при этом сохранить широкую доступность продукта».

Почему совместная разработка модели и агентского ПО предпочтительнее универсальных фреймворков

Одновременно с запуском компания Perplexity опубликовала исследовательскую работу, в которой утверждалось, что для эффективной работы локальных агентов модель и набор инструментов для управления агентом — структура, включающая подсказки, инструменты и логику управления вокруг модели — должны быть разработаны совместно. Основная идея: универсальные наборы инструментов предполагают наличие модели, способной обрабатывать огромные контексты, ориентироваться в обширных инструментальных средах и планировать на долгосрочную перспективу. Небольшие локальные модели не выдерживают этих требований.

Компания Perplexity эмпирически обнаружила, что, хотя такие модели, как Qwen 3.8 27B, рекламируют контекстные окна на 260 000 токенов, они начинают испытывать трудности при количестве токенов более 100 000. Поэтому компания разработала намеренно минималистичный инструментарий: лаконичную системную подсказку, небольшой набор основных инструментов и возможности, которые загружаются и выгружаются по запросу как «навыки», а не постоянно находятся в контексте. Она преобразовала популярные коннекторы, такие как Gmail и GitHub, из ресурсоемких MCP-серверов в компактные инструменты командной строки, добавила механизмы самопроверки, которые отслеживают состояние задачи, и обеспечила постоянную песочницу на уровне ОС. Если песочница недоступна, инструментарий отключается, а не запускает инструменты без защиты — в отличие от инструментов с открытым исходным кодом, которые по умолчанию запускают команды с полными правами пользователя.

Результаты сравнительных тестов, о которых сообщает Perplexity, впечатляют, хотя они основаны на собственных оценках компании. На внутреннем тестовом стенде Local Knowledge Work Bench — 53 задачи, охватывающие углубленные исследования, финансовый анализ и создание документов, который, по словам Perplexity, планируется сделать открытым исходным кодом — компьютер под управлением Qwen 3.8 27B на DGX Spark показал результат 82,6%, против 77,6% у открытого программного обеспечения для Raspberry Pi и 74,0% у Hermes, работающего на той же модели.

Обученный Perplexity PPLX 27B поднял оценку до 85,4%. Разница значительно увеличивается на более сложных задачах: на BrowseComp, бенчмарке для веб-исследований, Computer показал точность 66,7% против 50,2% у Pi и 43,9% у Hermes, при этом затратив на 51% меньше времени и на 70% меньше токенов, чем Pi. В задаче понимания мультимодальных документов Computer набрал 65,1% против 34,6% у Hermes и 13,9% у Pi.

Токен-экономика, побуждающая агентов ИИ переходить из облака на локальное оборудование.

Стратегическая логика запуска становится понятной, если учесть, как изменились задачи, связанные с ИИ. Раньше чат был прерывистым — вопрос, ответ, и всё. С агентами всё иначе.

«Что касается агентов, то желательно, чтобы они всегда были активны. Нужно, чтобы агенты расходовали как можно больше токенов», — сказал Надер. «Мы наблюдаем ненасытный спрос на токены, и именно это делает локальный ИИ таким замечательным. Как вы видели во всех этих демонстрациях, расход токенов не зависел от количества пользователей. Вы не платили за токены. Поэтому это действительно выгодно для агентов».

Это переосмысливает ценностное предложение локального оборудования. Агент, который часами просматривает документы, проверяет свою работу и итеративно анализирует данные, будет нести значительные расходы на API в облаке. На устройстве, уже принадлежащем пользователю, предельная стоимость этих токенов приближается к нулю. В статье Perplexity явно изложен корпоративный вариант этого аргумента: по мере масштабирования агентов в рамках отдельных рабочих процессов и целых организаций, расходование токенов и перемещение данных «становятся все сложнее контролировать». Выполнение с приоритетом локального доступа решает обе проблемы одновременно — расходование, поскольку вывод данных бесплатен, и конфиденциальность, поскольку конфиденциальные токены никогда не покидают пределы устройства.

Пожалуй, наиболее коммерчески интересный результат касается гибридного промежуточного варианта. В Terminal Bench 2.1, сложном тесте программирования, полностью локальная модель Qwen показала результат 59,6% при практически нулевых предельных затратах. Переход к облачному «советнику» Claude Opus 5 повысил результат до 73,0% при приблизительной стоимости 0,415 доллара за задачу. Запуск только модели, работающей на переднем крае разработки, показал результат 82,4% при стоимости 0,65 доллара за задачу. Другими словами, переход на передний край разработки позволил компенсировать примерно три пятых разрыва в производительности до переднего края при примерно двух третях затрат — и пользователь сам решает, когда стоит пойти на такой компромисс. Перед вызовом любого советника система запускает классификатор персональных данных на основе исходящего контекста и показывает пользователю, что именно будет отправлено с устройства. Удалённая модель возвращает только текстовые подсказки; она никогда не затрагивает локальные файлы или инструменты.

Место портативного компьютера на фоне Ollama и самодельных локальных стеков искусственного интеллекта

Джейсон Хайнер из The Deep View задал компаниям вопрос о том, как Portable Computer соотносится с существующими инструментами локального вывода, такими как Ollama. Ответ Нейта четко показал: эти инструменты решают разные уровни проблемы.

«Основная часть работы была сосредоточена на уровне программного обеспечения для агентов», — сказал он, отметив, что система использует vLLM для размещения результатов вывода модели, с расширенным режимом для пользователей, которые хотят подключить свою собственную конечную точку вывода. «Мы тщательно доработали модели Qwen и Nemotron, с которыми работаем, чтобы добиться наилучших результатов… Мы сосредоточились на совершенствовании всего стека, от начала до конца, включая вывод модели и программное обеспечение».

Надер выразился более образно: «Просто запустить вывод данных на Spark очень быстро — это простой процесс. Можно использовать Ollama. Можно всё настроить. Но затем, когда начинаешь делать более сложные, более агентные вещи, внезапно требуется более высокая производительность. Начинаешь рассматривать разные модели. Начинаешь изучать разные инструменты, и это как океан. Чем глубже погружаешься, тем глубже становится».

Похоже, что презентация, напоминающая презентацию готового устройства, пришлась по вкусу как минимум одному из участников. Бен, который рассказал о трудностях с настройкой своего DGX Spark, несмотря на то, что он инженер — «этот опыт ужасен, мы должны это исправить» — сказал, что продукт ощущается как разблокировка, «необходимая людям, чтобы действительно почувствовать и понять, что значит агентность, и для этого нужен правильный пользовательский интерфейс». Nvidia также подчеркнула масштабируемость оборудования: подключение двух Spark через общую память запускает передовые открытые модели, такие как последняя разработка DeepSeek, а четыре могут работать с GLM 5.2 или Nemotron Ultra. «Я даже видел, как подключалось восемь Spark», — сказал Надер.

Что означает углубление альянса Nvidia и Perplexity для обеих компаний?

Запуск расширяет партнерство, которое развивалось более года. В июне 2025 года Nvidia и Perplexity объявили о сотрудничестве с целью внедрения моделей суверенного ИИ для европейских издателей и телекоммуникационных компаний. Это часть кампании генерального директора Дженсена Хуанга, направленной на то, чтобы убедить правительства в том, что, как сообщило агентство Associated Press на выставке VivaTech в Париже, «каждой стране необходима национальная инфраструктура разведки». Аргумент о суверенном ИИ — что данные «принадлежат вашему народу, вашей стране, вашей культуре», по словам Хуанга — философски совпадает с аргументом, который приводит Portable Computer в масштабе одного рабочего стола: интеллект, который вы контролируете, работающий на оборудовании, которым вы владеете.

У обеих компаний есть своя собственная логика. Perplexity, которая привлекала капитал при постоянно растущей оценке, одновременно сталкиваясь с юридическим давлением со стороны издателей из-за своей практики в отношении контента — включая иск, поданный The New York Times в декабре 2025 года, и более ранний публичный спор с Forbes — получает продукт, экономика которого не зависит от учета каждого токена, и дифференцированный доступ к предприятиям, чувствительным к вопросам конфиденциальности, в сфере права, здравоохранения и финансов. Nvidia получает «убойное приложение» для DGX Spark, устройства, которое, по признанию участников брифинга в понедельник, было проще купить, чем использовать. Когда один из репортеров спросил, может ли Spark поставляться с предустановленными Portable Computer и моделью Nemotron, Надер уклонился от ответа, не исключая такой возможности: «Это было бы круто… цель состоит в том, чтобы просто обеспечить максимально плавную работу для каждого пользователя».

Вопросы остаются. Наиболее впечатляющие результаты Perplexity получены на основе собственных внутренних тестов, и компания признает, что компактные модели все еще значительно отстают от лидеров в сложных задачах логического мышления — повышение уровня советника «сужает, но не полностью закрывает разрыв». На данный момент запуск осуществляется только для Linux, минимальный объем видеопамяти в 24 ГБ исключает подавляющее большинство потребительских ПК, а Apple Silicon — компания, в которой работают одни из самых увлеченных местных разработчиков ИИ — заметно отсутствует в дорожной карте. «Сейчас мы очень сосредоточены на оборудовании Nvidia», — сказал Нейт, отвечая на вопрос.

Но направление развития очевидно. Исследователи Perplexity описывают запуск как часть «более широкого сдвига, в котором все более совершенные агенты переходят от удаленной инфраструктуры к индивидуальным и локальным устройствам», и обе компании делают ставку на то, что достижения в области чипов и открытых моделей будут и дальше расширять возможности настольного компьютера. Во время демонстраций в понедельник наиболее показательной деталью был не результат бенчмарка, а тот самый счетчик кредитов в углу экрана, неподвижно стоящий на нуле, пока агент обрабатывал папку с налоговыми документами. В течение двух лет индустрия ИИ измеряла свои амбиции в гигаваттах и токенах на доллар. Portable Computer предлагает другой счетчик, который никогда не работает.

Источник: venturebeat.com