FuriosaAI NXT RNGD: как корейский стартап бросает вызов NVIDIA в сегменте ИИ-инференса

Корейский стартап FuriosaAI представил инновационный серверный продукт NXT RNGD (произносится как «ренегат»), который может изменить ситуацию на рынке искусственного интеллекта. Новая платформа, ориентированная на задачи логического вывода, предлагает принципиально иную архитектуру для обработки ИИ-моделей, которая обещает существенно снизить энергопотребление и стоимость вычислений.

Технические характеристики и инновации

Сервер NXT RNGD оснащен восемью собственными чипами RNGD компании FuriosaAI, обеспечивающими 4 петафлопса вычислительной мощности в форматах FP8 и INT8. При этом энергопотребление системы составляет всего 3 кВт — в три раза меньше, чем у традиционных GPU-серверов аналогичной производительности.

Ключевые технические особенности:

• 384 ГБ памяти HBM3 с пропускной способностью 12 ТБ/с

• Возможность размещения 5 серверов NXT RNGD в стандартной 15-киловаттной стойке (против одного сервера NVIDIA DGX)

• Энергоэффективность, обеспечивающая снижение совокупной стоимости владения для центров обработки данных

Эти показатели делают решение особенно привлекательным для компаний, стремящихся оптимизировать затраты на эксплуатацию ИИ-инфраструктуры без потери производительности.

Сценарии применения и целевые рынки

FuriosaAI специализируется на сегментах, где энергоэффективность и стоимость вычислений имеют решающее значение:

• Финансовые институты — для обработки транзакций и анализа рисков в режиме реального времени

• Электронная коммерция — для персонализированных рекомендаций и обработки платежей

• Образовательные платформы — для адаптивного обучения и анализа данных

• Предприятия с частными облаками — для локального развертывания ИИ-моделей

Глава компании Джун Пэк отмечает: «Сейчас на рынке доминирует один игрок. Nvidia удерживает лидирующие позиции, но существует множество предприятий, которым нужны ИИ-решения, и для них требуется новый подход. Наша цель — стать ведущей компанией в области передовых вычислений на глобальном уровне».

Преодоление зависимости от CUDA

Одна из главных сложностей для альтернативных решений — доминирование экосистемы CUDA от NVIDIA. Однако в сегменте логического вывода зависимость от CUDA значительно ниже, чем при обучении моделей, что открывает возможности для новых игроков.

FuriosaAI разрабатывает собственный программный стек, который обеспечивает совместимость с популярными фреймворками и упрощает переход для разработчиков. По утверждению компании, их решение уже показало хорошие результаты в тестах и готово к внедрению в производственных средах.

Партнерские успехи и планы по выходу на рынок

В июле 2024 года FuriosaAI объявила о сотрудничестве с LG AI Research, которая будет предлагать серверы на базе RNGD своим корпоративным клиентам. Ранее сообщалось, что компания отклонила предложение Meta на сумму 800 млн долларов, подчеркнув свою стратегию независимого развития.

Серверы NXT RNGD уже проходят этап тестирования у клиентов по всему миру и будут доступны для заказа в начале 2026 года. Это совпадает с прогнозируемым ростом спроса на энергоэффективные решения для инференса в условиях ужесточения требований к энергопотреблению центров обработки данных.

Конкуренция на рынке ИИ-инференса

FuriosaAI вступает в борьбу за долю рынка инференса, где NVIDIA традиционно сильна, но не является монополистом. Конкурентами являются:

• Крупные технологические компании: Google (TPU v4i), Amazon (Inferentia)

• Традиционные производители чипов: Intel, AMD, Qualcomm

• Специализированные стартапы: Cerebras, xAI

Эксперт Мэтью Кимболл из Moor Insights & Strategy отмечает: «Существует множество сценариев развёртывания инференса, и я не сомневаюсь, что серверы FuriosaAI найдут свою нишу на рынке».

Перспективы для российского рынка

Для российских компаний, стремящихся к импортозамещению и поиску альтернативных решений, платформа NXT RNGD представляет особый интерес:

• Низкое энергопотребление снижает зависимость от энергоресурсов

• Открытая архитектура упрощает адаптацию к локальным задачам

• Экономическая эффективность позволяет оптимизировать бюджет на ИИ-инфраструктуру

Учитывая стремительный рост спроса на ИИ-решения в российском сегменте, такие продукты, как NXT RNGD, могут стать важным инструментом для компаний, желающих внедрять передовые технологии без чрезмерных затрат.

Заключение

Появление сервера FuriosaAI NXT RNGD знаменует собой новый этап в развитии рынка ИИ-инференса, где энергоэффективность и стоимость становятся такими же важными параметрами, как и производительность. Несмотря на то, что NVIDIA сохраняет доминирующие позиции, сегмент инференса демонстрирует высокую диверсификацию, что открывает возможности для специализированных решений.

С ростом числа компаний, внедряющих ИИ-технологии в свои бизнес-процессы, спрос на энергоэффективные и экономичные решения будет только увеличиваться. Компания FuriosaAI, специализирующаяся на инференсе, может стать важным игроком в этом быстрорастущем сегменте, предложив альтернативу традиционным GPU-решениям.

Источник: habr.com