Архив рубрики ~Коротко из Telegram~

Не обязательно больше: зачем нужны малые языковые модели В гонке…

Не обязательно больше: зачем нужны малые языковые модели В гонке…
File 897

Не обязательно больше: зачем нужны малые языковые модели

В гонке ИИ долго работало простое правило: чем больше модель, тем лучше. Но теперь рядом с гигантскими LLM появляется отдельный класс — малые языковые модели (SLM). Они требуют меньше вычислений, быстрее работают и могут запускаться на локальной инфраструктуре.

По прогнозу Gartner, к 2027 году организации будут использовать небольшие специализированные модели как минимум втрое чаще универсальных LLM. Логика понятна: если модели нужно, например, классифицировать обращения клиентов, искать ошибки в документах или отвечать на вопросы по внутренней базе, нет смысла каждый раз обращаться к гигантской универсальной модели.

Оценки объёма рынка SLM различаются в зависимости от методики, но все показывают быстрый рост. Research and Markets оценивает мировой рынок в $9,4 млрд в 2025 году и прогнозирует около $32 млрд к 2034-му при среднем росте 14,6% в год. Global Market Insights даёт ещё более высокий прогноз: с $6,5 млрд в 2024 году до $64 млрд в 2034-м.

Зачем вообще нужны маленькие модели? Во-первых, они дешевле в эксплуатации и требуют меньше вычислительных ресурсов. Во-вторых, их проще развернуть локально — что особенно важно, когда данные нельзя или нежелательно отправлять во внешний облачный сервис. Именно поэтому SLM уже рассматриваются для поддержки клиентов, финансов, здравоохранения, обработки документов и других узких задач.

«Малые языковые модели сегодня активно используются в бизнесе как практичный инструмент для быстрых и повторяющихся задач — от обработки тикетов и клиентских запросов до антифрода и кибербезопасности. Их можно запускать на относительно небольшой инфраструктуре, в том числе на CPU, что особенно важно для сценариев, где критичны стоимость и локальная обработка данных. При этом работа с SLM требует высокой экспертизы в настройке, инференсе и дообучении: для крупного бизнеса такая оптимизация может давать существенную экономию на масштабе», — рассказал @antidigital советник гендиректора по ИИ «Ассоциации финтех» Алексей Сидорюк

При этом SLM не всегда является «маленькой версией большой модели». Их можно специально обучать под конкретный язык, отрасль или набор задач. И здесь появляется ещё один интересный эффект: небольшая модель может оказаться полезнее большой, если она лучше знает конкретный контекст.

Например, южноафриканская Lelapa AI разработала InkubaLM — модель на 400 млн параметров, ориентированную на африканские языки. Её можно использовать при ограниченных вычислительных ресурсах. Название происходит от слова на исизулу, обозначающего жука — небольшого, но способного перемещать груз во много раз тяжелее себя.

Похожая логика работает и в других регионах. В Индии государственная IndiaAI Mission поддерживает разработку собственных моделей для индийских языков и задач, включая небольшие специализированные модели. Один из проектов — BharatGen, который позиционируется как суверенная мультиязычная и мультимодальная AI-инициатива.

В ОАЭ развиваются собственные арабоязычные модели, например Jais и Falcon. А в Саудовской Аравии — семейство моделей ALLaM, ориентированных на арабский язык и региональный контекст. То есть речь идёт не только о попытке сделать «свой GPT», но и о создании моделей, которые лучше работают с конкретными языками и задачами.

В России тоже развивается направление компактных моделей. Например, у «Яндекса» есть YandexGPT 5 Lite на 8 млрд параметров, у Сбера — GigaChat 3.1 Lightning на 10 млрд, из которых активно используется около 1,8 млрд. Такие модели интересны прежде всего для сценариев, где важны скорость, стоимость вычислений и возможность локального использования.

Здесь SLM становятся интересны уже не только как способ сэкономить на вычислениях. Для компаний и государств это ещё и возможность иметь модель, адаптированную под собственные данные, язык и конкретные процессы. Это может снижать зависимость от внешних поставщиков, однако сама по себе небольшая модель ещё не делает ИИ суверенным.

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Адриан вложит 1,37 миллиарда долларов на развитие оборонного и аэрокосмического производства США. Архив рубрики ~Лента новостей~ Электронная кожа обеспечивает роботам и протезам «ощущение прикосновений, подобных человеческому» Архив рубрики ~Лента новостей~ По мере роста числа атак с использованием ИИ, OpenAI запускает новую кибермодель. Архив рубрики ~Лента новостей~ Расширение возможностей Daybreak по мере сужения окна киберзащиты | OpenAI Архив рубрики ~Лента новостей~ ЕСИА – не индульгенция: кто отвечает за ошибку идентификации и когда KYC можно строить без Госуслуг Новости робототехники Друг всегда прикроет спину Итальянский институт технологий совместно с INAIL и Generative… Новости робототехники Unitree оценили в 219 годовых прибылей Гуманоиды пока чаще работают… Архив рубрики ~Лента новостей~ Сквозная аналитика звонков: как связать рекламу и реальные продажи (с разбором коллтрекинга) Архив рубрики ~Лента новостей~ OpenAI запускает GPT-5.6-Cyber с уменьшенным количеством отказов и 95% завершением сложных задач в области кибербезопасности. Архив рубрики ~Лента новостей~ Разделение ответственности между Claude и Codex: как я перестал выбирать одну нейросеть и усилил сразу две Архив рубрики ~Лента новостей~ Парк юрского периода: самые харизматичные устройства в истории видеоконференцсвязи Архив рубрики ~Лента новостей~ Бесплатный спутниковый сервис в Европе упростил отслеживание лесных пожаров. Архив рубрики ~Лента новостей~ В 4-м сезоне Overwatch добавлен новый герой-танк D.Mon, а также внесены изменения в карты и игровые механики. Новости робототехники RoboStore запускает Robo Inc., чтобы помочь организациям США внедрить роботов. Новости робототехники Адриан вложит 1,37 миллиарда долларов на развитие оборонного и аэрокосмического производства США. Архив рубрики ~Лента новостей~ Электронная кожа обеспечивает роботам и протезам «ощущение прикосновений, подобных человеческому» Архив рубрики ~Лента новостей~ По мере роста числа атак с использованием ИИ, OpenAI запускает новую кибермодель. Архив рубрики ~Лента новостей~ Расширение возможностей Daybreak по мере сужения окна киберзащиты | OpenAI Архив рубрики ~Лента новостей~ ЕСИА – не индульгенция: кто отвечает за ошибку идентификации и когда KYC можно строить без Госуслуг Новости робототехники Друг всегда прикроет спину Итальянский институт технологий совместно с INAIL и Generative… Новости робототехники Unitree оценили в 219 годовых прибылей Гуманоиды пока чаще работают… Архив рубрики ~Лента новостей~ Сквозная аналитика звонков: как связать рекламу и реальные продажи (с разбором коллтрекинга) Архив рубрики ~Лента новостей~ OpenAI запускает GPT-5.6-Cyber с уменьшенным количеством отказов и 95% завершением сложных задач в области кибербезопасности. Архив рубрики ~Лента новостей~ Разделение ответственности между Claude и Codex: как я перестал выбирать одну нейросеть и усилил сразу две Архив рубрики ~Лента новостей~ Парк юрского периода: самые харизматичные устройства в истории видеоконференцсвязи Архив рубрики ~Лента новостей~ Бесплатный спутниковый сервис в Европе упростил отслеживание лесных пожаров. Архив рубрики ~Лента новостей~ В 4-м сезоне Overwatch добавлен новый герой-танк D.Mon, а также внесены изменения в карты и игровые механики. Новости робототехники RoboStore запускает Robo Inc., чтобы помочь организациям США внедрить роботов.

Оставить комментарий