Перспективный французский стартап ZML выпустил бесплатный продукт для ускорения обработки данных на множестве чипов для искусственного интеллекта.

Времена беспрецедентного доминирования Nvidia на рынке еще не закончились, но со всех сторон появляются новые конкуренты и варианты выбора.

Французский стартап ZML, занимающийся разработкой искусственного интеллекта и получивший поддержку лауреата премии Тьюринга Яна Лекуна, выпустил программное обеспечение для повышения производительности инференции, позволяющее запускать различные модели обработки больших языков с открытым исходным кодом на различных чипах, включая Nvidia, AMD, TPU от Google, Apple Metal и Intel Arc.

Как рассказал основатель ZML Стив Морин изданию TechCrunch, с помощью недавно запущенного сервера вывода LLM компания стремится разрушить существующие барьеры и сделать доступными различные чипы для решения задач искусственного интеллекта на максимально возможной скорости, а иногда и быстрее.

По мере того как ИИ все больше интегрируется в нашу работу и повседневную жизнь, оптимизация процесса вывода — то есть обработка запросов — по важности опережает обучение моделей, но зачастую за кулисами она кажется неполной, с программными и архитектурными барьерами, которые приводят к зависимости от поставщика, — сказал Морин.

Перспектива достижения максимальной производительности на самых разных чипах — это технологический подвиг, но он также может изменить рынок на фоне растущих опасений по поводу затрат, связанных с искусственным интеллектом.

ZML надеется предоставить предприятиям и облачным сервисам возможность использовать комбинацию микросхем, некоторые из которых могут быть дешевле или потреблять меньше энергии. «Идея состоит в том, чтобы вернуть людям возможность создавать собственные системы и добиваться реального повышения эффективности, что позволит распространять [искусственный интеллект]», — сказал Морин.

Подобная программная поддержка может помочь новым производителям чипов для искусственного интеллекта, многие из которых находятся в Европе, отметил Морин, приведя в пример Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud и VSORA. Но для него важнее не регион происхождения, а возможность сотрудничества с ZML в решении «задач, которые ранее нигде в мире не решались».

Это не значит, что Морин настроен пессимистично по отношению к Nvidia. Он так не считает, отчасти из-за имеющихся у компании запасов. В интервью TechCrunch он заявил, что у ZML хорошие отношения с гигантом в области чипов для ИИ, который готовится к росту популярности технологий вывода информации.

Область вывода информации привлекла настолько интенсивные инвестиции, что эту тенденцию назвали «золотой лихостью в области вывода информации». Таким образом, у ZML есть конкуренты, такие как Baseten, недавно оцененная в 13 миллиардов долларов; Inferact от создателей проекта с открытым исходным кодом vLLM; а также RadixArk, коммерческая компания, стоящая за SGLang.

И vLLM, и SGLang частично конкурируют с LLMD, но амбиции Морина в отношении ZML охватывают более широкий спектр. «Мы достигли точки, когда занимаемся совместным проектированием кремниевых микросхем», — сказал он. Он также отметил, что именно небольшая команда из 20 человек позволила парижскому стартапу быстро развиваться, и в планах у него еще несколько релизов.

Также помогло то, что эта небольшая команда хорошо финансируется для своего размера. Благодаря своему опыту работы вице-президентом по разработке Zenly, которую Snapchat приобрел за девятизначную сумму в 2017 году, Морин привлек 20 миллионов долларов от венчурных фирм, включая 20VC Гарри Стеббингса, >commit, AALVC, Drysdale Ventures, Kima Ventures Ксавье Ниэля, Kindred Capital, LocalGlobe и Puzzle Ventures.

В отличие от первого публичного проекта ZML, ориентированного на вывод результатов фреймворка машинного обучения, выпущенного в 2024 году и обновленного в марте, ZML/LLMD не является проектом с открытым исходным кодом. Но он запускается как бесплатный продукт с целью изучения его использования. «Я предпочитаю измерять результаты и [затем получать доход] там, где это наиболее эффективно, не тормозя свой рост глупо из-за того, что я с самого начала был слишком жадным», — сказал Морин.

Пока рано говорить о том, когда ZML/LLMD может стать платным продуктом и как будет выглядеть его внедрение. Но данные о капитализации стартапа подтверждают, что другие основатели обращают на него внимание, включая основателя Dagger и Docker Соломона Хайкса, Клемана Деланга и Жюльена Шомона из Hugging Face, а также Лекуна, ныне работающего в AMI Labs. Это также подтверждает, что европейские стартапы в области ИИ теперь могут разрабатывать решения из дома. «Я не мог бы заниматься ZML нигде, кроме Парижа», — сказал Морин.

Источник: techcrunch.com