Этот стартап по производству микросхем привлек 135 миллионов долларов, сделав ставку на то, что самым большим узким местом в развитии ИИ является не вычислительная мощность, а память.
Каждый раз, когда вы задаете вопрос ChatGPT, ваш запрос запускает гонку передачи данных. Информация покидает память, проходит через ЦП для предварительной обработки, передается на ГП для ресурсоемких вычислений, а затем возвращается обратно — и весь этот путь повторяется для каждого слова, сгенерированного ИИ.
Проблема носит структурный характер — это означает, что каждый запрос обрабатывается одними из самых дорогих и энергоемких чипов в отрасли. Именно эту неэффективность и пытается решить стартап XCENA с офисами в Южной Корее и США. Четырехлетний стартап разработал чип, который размещает вычислительные возможности гораздо ближе к DRAM — быстрым микросхемам кратковременной памяти, хранящим данные, которые процессор активно использует, — что позволяет обрабатывать рутинные операции с данными рядом с памятью, без дорогостоящих обменов данными между ЦП, ГП и памятью.
Если это сработает в масштабах, последствия для стоимости инфраструктуры ИИ могут быть значительными, что во многом объясняет энтузиазм инвесторов по всей стране. Действительно, компания XCENA недавно привлекла 135 миллионов долларов в рамках раунда финансирования серии B при оценке в 570 миллионов долларов, в результате чего общая сумма привлеченных средств достигла 185 миллионов долларов.
Генеральный директор XCENA Джин Ким стал соучредителем стартапа в 2022 году вместе с техническим директором Дохуном Кимом и директором по продуктам Гарри Джухюном Кимом, все они — ветераны Samsung и SK Hynix, гигантов в области памяти, поставляющих чипы для графических процессоров Nvidia. «И процессоры, и графические процессоры за десятилетия стали умнее. Память никогда не становилась такой же. XCENA хочет это изменить», — сказал Ким в интервью TechCrunch. «Недавний рост цен на память и акций компаний, работающих в этой сфере, указывает на более широкий сдвиг в инфраструктуре ИИ в сторону архитектур, ориентированных на память», — добавил он. (В этом месяце три компании, доминирующие на мировом рынке микросхем памяти — Samsung, SK Hynix и Micron — впервые превысили триллионную капитализацию каждая.)
По словам Кима, компания XCENA делает ставку на то, что «вывод данных — это не просто вычислительная задача; это все чаще задача масштабирования памяти».
Чип MX1 от XCENA подключается к ЦП через CXL (Compute Express Link) — по сути, выделенный канал связи между процессором и памятью — обрабатывая данные еще до того, как они покинут модуль памяти. Он обеспечивает вычислительные ресурсы для обработки данных, а не наоборот. Компания утверждает, что то, что раньше требовало 10 серверов, потенциально может работать всего на одном.
«Хотя графические процессоры превосходно справляются с матричным умножением — сложной математической задачей, лежащей в основе обучения моделей ИИ, — большая часть сопутствующей обработки данных, включая предварительную обработку, управление кэшем ключ-значение [система, которая хранит контекст предыдущего разговора, чтобы модели не приходилось обрабатывать его заново] и кэширование данных, по-прежнему выполняется на центральных процессорах. Наш чип обрабатывает эти задачи непосредственно в самом модуле памяти», — сказал Ким.
Спрос на решения в области памяти резко вырос со второй половины прошлого года, и компания считает, что это благоприятный для нее момент.
Переговоры с несколькими мировыми поставщиками памяти находятся на ранней стадии, хотя Ким отказался их назвать. Идеальными клиентами компании являются крупные облачные провайдеры, ежегодно тратящие десятки миллиардов долларов на инфраструктуру для ИИ, где даже небольшое повышение эффективности памяти может означать экономию сотен миллионов долларов.
MX1 пока находится на стадии прототипа. Запуск серийного производства этих чипов запланирован на конец 2026 года, а получение прибыли ожидается в 2027 году.
В то время как производители нейронных процессоров (NPU) соревнуются с Nvidia в области рабочих нагрузок для обучения нейронных сетей, выставка XCENA нацелена на ресурсоемкий слой, лежащий в основе всего этого.
Ближайшими конкурентами XCENA являются Astera Labs и Marvell, обе компании, котирующиеся на Nasdaq и работающие над созданием памяти следующего поколения. Marvell — крупный, устоявшийся игрок, уже работающий в той же области, сказал Ким, добавив, что отличие заключается в интеллектуальной собственности. «У нас тысячи ядер», — сказал Ким. Судя по общедоступным спецификациям, подход Marvell, по сравнению с ними, опирается на небольшое количество ядер общего назначения.
Эти ядра построены на основе RISC-V — открытой архитектуры микросхем — и оптимизированы специально для обработки данных , при этом каждое ядро намеренно сделано небольшим и эффективным. Помимо самих ядер, XCENA разрабатывает собственную внутреннюю иерархию памяти, шину межсоединений и контроллер DRAM — уровень вертикальной интеграции, который большинство производителей микросхем, включая более крупных конкурентов, обычно передают на аутсорсинг.
Сеульские венчурные фирмы Altinum и IMM Investment совместно возглавили раунд финансирования серии B, наряду с Corstone Asia и существующими инвесторами SBI Investment и Mirae Asset Capital. Компания, в которой работает более 90 сотрудников в офисах в Панъё, технологическом центре за пределами Сеула, и в Саннивейле, также ведет переговоры с международными инвесторами о дополнительном финансировании.
Источник: techcrunch.com