Архив рубрики ~Коротко из Telegram~

NVIDIA делает ИИ дешевле — ставка на LPU и энергоэффективность…

NVIDIA делает ИИ дешевле — ставка на LPU и энергоэффективность…

NVIDIA делает ИИ дешевле — ставка на LPU и энергоэффективность

NVIDIA делает ход на опережение: компания заключила стратегическое соглашение со стартапом Groq на лицензирование технологий для энергоэффективного инференса ИИ. Следом NVIDIA переманила ключевое руководство партнёра — по данным CNBC, весь манёвр обошёлся примерно в $20 млрд.

Важно не путать: это не чат-бот Илона Маска, а Groq, который с 2016 года разрабатывает собственные LPU (Language Processing Unit) — специализированные чипы, оптимизированные именно под нейросети.

Чем LPU интересны рынку:
Одноядерная архитектура и детерминированное выполнение
Без водяного охлаждения, ниже энергопотребление
— Лёгкое масштабирование в серверные стойки дата-центров
— Всего сотни мегабайт встроенной SRAM, без необходимости закупать большие объёмы HBM-памяти

Последний пункт особенно критичен: на фоне дефицита оперативной памяти и HBM-модулей такие чипы становятся экономически привлекательнее классических GPU-решений.

Зачем это NVIDIA:
— Компания активно развивает человекоподобных роботов, которым нужны локальные ИИ-вычисления с жёсткими ограничениями по энергии
— Для инференса «на месте» GPU избыточны и дороги
— LPU закрывают нишу быстрого, дешёвого и предсказуемого инференса

В перспективе это может выйти далеко за пределы дата-центров. Появление LPU в потребительских устройствах откроет путь к локальному запуску нейросетей даже на бюджетных ноутбуках, без дискретных видеокарт и облачных костылей.

Вывод: NVIDIA готовится к следующей фазе ИИ-рынка, где решает не максимальная мощность, а стоимость, доступность и энергоэффективность. Инференс снова выходит на первый план — и LPU выглядят как ключевой элемент этой стратегии.

Процессор Groq на оранжевом фоне, вид сбоку, освещение подчеркивает текстуру.

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Agility Robotics сообщила о выручке в 1,8 миллиона долларов, опередив гуманоидный SPAC Архив рубрики ~Лента новостей~ Непрозрачная повторяемость и другие термины из области искусственного интеллекта, которые вам, вероятно, следует знать. Архив рубрики ~Лента новостей~ Новый генеральный директор PacBio, обновленная химическая формула для системы Vega. Архив рубрики ~Лента новостей~ Миллион запросов за бесплатный ИИ Архив рубрики ~Лента новостей~ Внедрение инженерных решений на передовой — это способ обучения корпоративной системы искусственного интеллекта. Архив рубрики ~Лента новостей~ Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены Архив рубрики ~Лента новостей~ [Перевод] «Я знаю, что ты знаешь»: задача про пиратов Архив рубрики ~Лента новостей~ Число подтвержденных жертв лихорадки Эбола в Конго превысило три тысячи. Подтвержденных случаев стало больше 6000 Новости робототехники Inbolt обсудит проблему развертывания физических ИИ на РобоБизнес Архив рубрики ~Лента новостей~ Чего мы ожидаем от предстоящего запуска Apple? Архив рубрики ~Обо всем~ «Гипотеза репродуктивной устойчивости» указывает на яичник как на источник открытий в исследованиях долголетия. Архив рубрики ~Лента новостей~ Компания MG Ship внедряет оптимизацию маршрутов с помощью ИИ, поскольку отдача от логистики растет. Архив рубрики ~Лента новостей~ ChatGPT называет клиентам вашу старую цену: как проверить, что нейросети говорят о вашем бренде Архив рубрики ~Лента новостей~ Модели прогнозирования способны восстановить до 65% фактов, которые они не могут вспомнить напрямую, — просто за счёт более длительного размышления. Архив рубрики ~Лента новостей~ Agility Robotics сообщила о выручке в 1,8 миллиона долларов, опередив гуманоидный SPAC Архив рубрики ~Лента новостей~ Непрозрачная повторяемость и другие термины из области искусственного интеллекта, которые вам, вероятно, следует знать. Архив рубрики ~Лента новостей~ Новый генеральный директор PacBio, обновленная химическая формула для системы Vega. Архив рубрики ~Лента новостей~ Миллион запросов за бесплатный ИИ Архив рубрики ~Лента новостей~ Внедрение инженерных решений на передовой — это способ обучения корпоративной системы искусственного интеллекта. Архив рубрики ~Лента новостей~ Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены Архив рубрики ~Лента новостей~ [Перевод] «Я знаю, что ты знаешь»: задача про пиратов Архив рубрики ~Лента новостей~ Число подтвержденных жертв лихорадки Эбола в Конго превысило три тысячи. Подтвержденных случаев стало больше 6000 Новости робототехники Inbolt обсудит проблему развертывания физических ИИ на РобоБизнес Архив рубрики ~Лента новостей~ Чего мы ожидаем от предстоящего запуска Apple? Архив рубрики ~Обо всем~ «Гипотеза репродуктивной устойчивости» указывает на яичник как на источник открытий в исследованиях долголетия. Архив рубрики ~Лента новостей~ Компания MG Ship внедряет оптимизацию маршрутов с помощью ИИ, поскольку отдача от логистики растет. Архив рубрики ~Лента новостей~ ChatGPT называет клиентам вашу старую цену: как проверить, что нейросети говорят о вашем бренде Архив рубрики ~Лента новостей~ Модели прогнозирования способны восстановить до 65% фактов, которые они не могут вспомнить напрямую, — просто за счёт более длительного размышления.