Почему следующий этап ИИ-бума будет совсем не про GPU

Первые два года ИИ-бума инвесторы покупали «железо». Теперь рынок начинает искать следующий источник роста. Главной становится не максимальная производительность моделей, а стоимость одного запроса, эффективность вычислений и способность масштабировать ИИ дешевле конкурентов. Именно вокруг этого будет разворачиваться следующая стадия развития отрасли.

В июньском обзоре Citrini Research пишет, что рынок ИИ вступает во вторую фазу. Если последние два года инвесторы были готовы платить почти любую цену за вычислительные мощности и крупнейших производителей чипов, то теперь внимание постепенно смещается на стоимость самих вычислений, эффективность моделей и инфраструктуру, которая позволяет снизить расходы.

Первая волна ИИ строилась вокруг дефицита GPU и масштабных инвестиций в дата-центры. Однако сейчас главным конкурентным преимуществом становится способность выполнять больше вычислений за меньшие деньги. На рынке растет пониманием, что экспоненциально наращивать мощности дата-центров уже нерентабельно. При этом амортизация от использования падает быстрее отдачи в прибыль. Поэтому они выделяют несколько новых долгосрочных трендов.

Во-первых, рынок начинает переходить к локальному (on-device) ИИ. Все больше моделей будут работать непосредственно на смартфонах, ПК и периферийных устройствах без постоянного обращения в облако. Это снижает задержки, повышает конфиденциальность данных и уменьшает стоимость эксплуатации.

Во-вторых, усиливается тренд на миниатюризацию моделей. Гонка идет уже не только за максимальным качеством, но и за эффективностью. Компактные модели дешевле в обучении и запуске, быстрее масштабируются и позволяют запускать ИИ там, где раньше это было невозможно.

В-третьих, рынок постепенно отказывается от идеи одной универсальной модели. Вместо этого развивается умная маршрутизация запросов: простые задачи отправляются дешевым моделям, сложные — самым мощным. Такой подход резко снижает стоимость использования генеративного ИИ для бизнеса.

Еще один важный тренд — наблюдаемость (observability). По мере того как ИИ становится частью корпоративных процессов, компаниям нужны инструменты контроля качества моделей, мониторинга ошибок, безопасности и затрат. Если раньше основной ценностью были сами модели, то теперь быстро растет значение программного слоя вокруг них.

В общем, рынок входит в период ценовой конкуренции. Бесплатный ИИ постепенно уходит в прошлое. Опенсорс работал для привлечения подписчиков и наращивания будущей клиентской базы. По мере роста расходов на вычисления разработчики будут активнее вводить платные тарифы, лимиты использования и механизмы монетизации. Побеждать будут компании, которые смогут снижать себестоимость вычислений быстрее конкурентов.

Поэтому рынок начинает смотреть дальше производителей GPU. Следующий этап ИИ будет определяться не тем, кто построит самый большой дата-центр, а тем, кто научится выполнять ту же работу значительно дешевле. Поэтому внимание инвесторов постепенно смещается к разработчикам эффективных моделей, программного обеспечения для управления ИИ-инфраструктурой и компаниям, которые помогают сокращать стоимость каждого запроса к модели.

Источник: habr.com