Нет облачных вычислений, нет графических процессоров, нет проблем: новая модель LFM2.5-2.6B от Liquid AI предоставляет мощные агенты искусственного интеллекта для устройств размером всего лишь с Raspberry Pi.

Карл Франзен

Ранее на этой неделе стартап Liquid, занимающийся разработкой искусственного интеллекта и основанный в 2023 году бывшими учеными-компьютерщиками из Массачусетского технологического института, представил LFM2.5-2.6B — новую языковую модель с открытыми весами, разработанную специально для агентных задач.

В материалах к выпуску и недавнем интервью VentureBeat исследователи Liquid заявили, что LFM2.5-2.6B может работать полностью на локальном оборудовании — от смартфонов и ноутбуков до Raspberry Pi — без использования облачных вычислений или графических процессоров, что открывает доступ к приложениям искусственного интеллекта на периферии сети и предоставляет больше возможностей предприятиям, работающим в регулируемых отраслях или с конфиденциальной информацией, которую они не хотят передавать в облако.

Он лучше всего подходит для выполнения большого объема четко определенных задач, выполняемых локально агентами — вызов инструментов, управление документами, автоматизация календаря и рабочих процессов, а также постоянно работающие фоновые процедуры — и для сред с ограниченными возможностями подключения, таких как транспортные средства и робототехника, хотя сложные задачи, требующие большого объема программирования, лучше оставить для более крупных моделей.

Даже для тех предприятий, у которых нет подобных опасений, привлекательность использования высокопроизводительных, специализированных агентов, работающих преимущественно за счет электроэнергии, может оказаться достаточной, чтобы сделать новую модель весьма привлекательной.

Однако лицензия на использование пользовательских открытых весов, как в случае с более крупной моделью Moonshot Kimi K3, выпущенной в прошлом месяце, заслуживает пристального внимания юридических отделов предприятий.

Основы

LFM2.5-2.6B содержит 2,6 миллиарда параметров, поддерживает контекстное окно в 128 000 токенов и включает вызов нативных инструментов. Несколько замысловатое название объясняется генерацией модели (2.5) в сочетании с количеством параметров (2.6B).

Как обученная модель, так и базовая контрольная точка (LFM2.5-2.6B-Base) для разработчиков, желающих ее доработать, уже доступны на Hugging Face, с поддержкой основных стеков инференции с первого дня, включая llama.cpp, MLX, vLLM, SGLang и ONNX, что позволяет развертывать ее на потребительском оборудовании, корпоративной инфраструктуре и встроенных системах.

Liquid также предлагает открытую платформу для тонкой настройки, LEAP.

Вместо того чтобы позиционировать LFM2.5-2.6B как конкурента крупнейшим перспективным моделям, компания выдвигает другой аргумент: что достаточно мощная небольшая модель может открыть доступ к категориям корпоративных приложений, где задержка, конфиденциальность, гибкость развертывания или стоимость вывода данных имеют большее значение, чем абсолютное лидерство в бенчмарке.

«Я также считаю, что лучшие модели будут в облаке, и в этом нет ничего плохого», — сказал Максим Лабонн, руководитель отдела постобработки Liquid AI, в интервью VentureBeat после запуска. «Мы хотим создавать модели для другого типа пользователей, и лучше всего это можно описать так: вы должны использовать [Edge AI], когда вы не можете использовать облачную модель».

Достаточно компактный для Raspberry Pi.

Отвечая на вопрос о минимально необходимом оборудовании, Лабонн сказал, что модель работает «очень, очень хорошо» на процессорах, и что архитектура LFM2, лежащая в основе модели, была разработана с учетом реальной производительности процессоров, а не результатов тестов видеокарт.

«Я думаю, лучший пример — это Raspberry Pi, — сказал он. — У нас есть множество демонстраций, которые показывают, что на Raspberry Pi это работает довольно быстро».

Согласно данным компании, скорость декодирования составляет приблизительно 220 токенов в секунду на Apple M5 Max и 113 токенов в секунду на AMD Ryzen AI Max+ 395, при этом используется менее 2,5 ГБ памяти, а на смартфоне — около 30 токенов в секунду. Пользователи могут протестировать модели на своих телефонах через Apollo, мобильное приложение Liquid AI.

На другом конце спектра развертывания компания Liquid AI сообщает, что модель достигает почти 15 000 выходных токенов в секунду на одном графическом процессоре Nvidia H100 при постоянной одновременной нагрузке — примерно 1,3 миллиарда токенов в день на одной карте. Эти цифры являются результатами тестов производителя и не были независимо подтверждены.

Для Лабонна объем используемой памяти и скорость — это не удобства, а жесткие ограничения, определяющие, что вообще можно использовать.

«Мы хотим показать, что это действительно выгодный компромисс, потому что вы получаете тот же уровень качества, что и у гораздо более крупных моделей, но в крошечном форм-факторе», — сказал он. «Вы можете использовать его в целевых устройствах, где другие модели вообще не подходят».

Обучено для работы с агентами, а не с чат-ботами.

В Liquid AI заявляют, что разработка LFM2.5-2.6B основывалась на предположении, что языковые модели все чаще используются в рамках агентских систем, а не в традиционных разговорных интерфейсах.

«Модели больше не используются в чат-ботах. Теперь они используются через агентские платформы, такие как OpenClaw, Hermes Agent», — сказал Лабонн. «Мы хотели убедиться, что эта модель хороша не только в математике или программировании, но и в использовании инструментов».

Модель предварительно обучена на приблизительно 34 триллионах токенов, при этом словарь удвоен до 128 тысяч для лучшей поддержки нелатинских алфавитов, а также предусмотрена специальная фаза обучения в середине процесса, позволяющая расширить контекстное окно до 128 тысяч токенов для длительных рабочих процессов агентов.

Процесс обучения после тренировки включает четыре этапа: контролируемая тонкая настройка, специализация учителя (обучение отдельных экспертных моделей для таких областей, как следование инструкциям, математика, программирование и использование инструментов), многодоменная дистилляция на основе политики (MOPD) для объединения возможностей этих экспертов в единую модель ученика и, наконец, агентное обучение с подкреплением.

На последнем этапе модель обучалась непосредственно в производственных средах, включая Hermes Agent и OpenClaw, на реалистичных задачах повышения производительности, связанных с исследованиями, программированием, управлением документами, запуском инструментов и автоматизацией рабочих процессов, подвергая ее воздействию реальных инструментов, системных подсказок и моделей взаимодействия этих сред.

Лабонн охарактеризовал модернизацию трубопровода как «счастливую случайность»: выгоды, которые вышли далеко за рамки целевых показателей.

«Благодаря этим новым методам обучения мы также значительно улучшили все аспекты работы. Мы стали лучше разбираться в математике, лучше следовать инструкциям. На самом деле, мы никогда не были сильны в программировании — а благодаря этому мы даже в программировании стали по-настоящему хороши», — сказал он.

Создание модели — и страховочного комплекта

Примечательно, что Liquid AI также разработала собственную среду для работы с агентами, а не полагалась исключительно на существующие фреймворки, и продемонстрировала работу модели внутри нее на телефоне, планируя и вызывая инструменты полностью на устройстве.

«Это кабель, подключенный к телефону, и я не знаю, есть ли еще какие-либо кабели, подключенные к телефону», — сказал Лабонн.

По его словам, у компании было две причины. Первая — необходимость: не существовало встроенной в телефонную систему поддержки. Вторая — другая модель взаимодействия: современные системы ждут подсказки, а Liquid AI нужны помощники, которые действуют самостоятельно.

«Нам нужны инициативные агенты. Нам нужны агенты, которые работают в фоновом режиме, проверяют, чем вы занимаетесь, проверяют ваш календарь и, исходя из этого контекста, выполняют задачи», — сказал он. «Сегодня такого, по сути, не существует».

Совместная разработка страховочного пояса и модели также позволяет программному обеспечению компенсировать слабые места модели. «Во всем недостатках модели страховочный пояс должен ей помогать — оказывать максимально возможную поддержку, чтобы сделать ее более надежной», — сказал Лабонн. «Конечным пользователям все равно, модель это или пояс. Им важно, чтобы задача была выполнена в конечном итоге».

Тем не менее, модель работает без дополнительных настроек с такими известными платформами, как Hermes Agent, OpenClaw и Pi, и может быть развернута за любой совместимой с OpenAI конечной точкой.

Меняйте жгут проводов, а не модель.

Что касается развертывания в корпоративной среде, Лабонн утверждал, что этот релиз знаменует собой сдвиг в том, для чего можно использовать небольшие модели. До сих пор, по его словам, локальные модели имели экономический смысл в основном как узкоспециализированные решения, разработанные для выполнения одной задачи на уровне облачных моделей, но гораздо быстрее и дешевле. Возможности агентского подхода меняют этот расчет, поскольку одну и ту же модель можно перепрофилировать, изменив используемые инструменты, а не саму модель.

«Можно создать помощника по календарю, используя ту же модель, и сделать помощника для совещаний, который будет записывать все, что говорили участники, и подводить итоги — что-то вроде Granola, например», — сказал он. «Вы не меняете модель; вы меняете только основу. Вы просто меняете инструменты. Это обеспечивает гораздо большую универсальность, и это намного проще сделать, а также намного дешевле».

Он по-прежнему рекомендует проводить тонкую настройку при развертывании в производственной среде, когда это возможно: «Если вы не проводите тонкую настройку, вы теряете часть качества. Если же вы проводите тонкую настройку хорошо, она будет соответствовать производительности GPT и Claude — если, конечно, ваша задача не самая сложная в мире», — сказал он, добавив, что порог входа рухнул: «Сейчас планка для проведения тонкой настройки очень низкая. Это очень доступно для всех».

Как он выглядит на фоне DeepSeek-V4-Flash, Google Gemma и Alibaba Qwen

Компания Liquid AI опубликовала собственные сравнительные таблицы, в которых LFM2.5-2.6B сравнивается с моделями, которые предприятия, скорее всего, выберут для развертывания на периферии сети: Gemma 4 E2B (5,1 млрд параметров) и E4B (8 млрд) от Google, а также Qwen3.5-4B (4,7 млрд) и Qwen3.5-9B (9,7 млрд) от Alibaba.

Отдельное тестирование, проведенное локальной платформой для клиентов с искусственным интеллектом Atomic Chat, показало, что модель LFM2.5-2.6B выполнила 35 вызовов инструментов для решения трех задач (проверка погоды и местного времени в шести городах, конвертация бюджета в шесть валют, проверка четырех отелей и бронирование на свидание) в 3,7 раза быстрее, чем DeepSeek-V4-Flash (с огромным количеством параметров — 284 миллиарда). С момента своего выпуска на прошлой неделе эта модель стремительно взлетела на вершину рейтинга OpenRouter.

Небольшие модели Gemma 4 являются мультимодальными универсалами, принимая изображения и аудио наряду с текстом, и используют архитектуру Per-Layer Embeddings, которая сохраняет активной лишь часть весов на каждый токен — именно поэтому Google позиционирует их по «эффективному» размеру (2,3 млрд и 4,5 млрд), несмотря на общий объем в 5,1 млрд и 8 млрд. Серия Qwen3.5 от Alibaba, выпущенная в марте, изначально является мультимодальной, начиная с 4 млрд, и опирается на масштабируемое обучение с подкреплением для достижения передовых результатов в области логического мышления — Alibaba утверждает, что модель с объемом 9 млрд соответствует или превосходит гораздо более крупную модель OpenAI gpt-oss-120B по показателям логического мышления.

LFM2.5-2.6B идет по более узкому пути: это исключительно текстовый, насыщенный контент, специализированный для работы агентов, при этом Liquid AI выпускает отдельные варианты семейства LFM для обработки изображений и звука, а не объединяет все в одну контрольную точку.

В то время как обучение с подкреплением после обучения в Qwen ориентировано на логическое мышление, Liquid ориентировано на использование инструментов внутри реальных систем агентов.

Согласно опубликованным компанией данным, самая маленькая модель в сравнении лидирует во всех тестах на отслеживание инструкций (IFBench, Multi-IF, IFStruct) и почти во всех тестах использования инструментов — 77,83 в ToolSandbox против 76,44 у Qwen3.5-9B, модели, почти в четыре раза большей по размеру, — уступая только модели 9B в BFCLv4.

В тестах на агентные способности он превосходит обе модели Gemma по всем параметрам и практически сравнялся с Qwens: 26,89 на BrowseComp+ против 27,23 у Qwen3.5-9B. Он также показывает лучший результат в AA Omniscience, тесте на знание, который наказывает за галлюцинации.

Модели Qwen сохраняют преимущество там, где сосредоточено их обучение: математика (Qwen3.5-9B лидирует в AIME25) и программирование, где более крупные модели сохраняют преимущество в LiveCodeBench — хотя Лабонн отметил, что разрыв меньше, чем можно было бы предположить, исходя из количества параметров.

«С LiveCodeBench v6 мы, возможно, не лучшие среди этих моделей, но мы также, безусловно, самые маленькие. Доказать, что мы конкурентоспособны по сравнению с ними, для меня уже большая победа», — сказал он.

Одно отличие работает в обратную сторону: лицензирование. Gemma 4 и Qwen 3.5 распространяются под разрешительной лицензией Apache 2.0 — изменением, которое Google внесла специально для привлечения крупных предприятий. DeepSeek-V4-Flash распространяется под аналогичной разрешительной лицензией MIT.

Между тем, лицензия Liquid AI, ограничивающая получение дохода (подробности ниже), требует от крупных компаний заключения коммерческого соглашения. Предприятия, превышающие этот порог, фактически обменивают неудобства, связанные с лицензированием, на расширение своего присутствия на рынке и повышение эффективности использования инструментов.

Лицензирование отражает коммерческий компромисс.

LFM2.5-2.6B распространяется под лицензией LFM Open License v1.0, которая разрешает использование, модификацию и распространение — в том числе коммерческое — для организаций с годовым доходом менее 10 миллионов долларов. Коммерческое использование крупными компаниями не покрывается лицензией и требует отдельного соглашения с Liquid AI; квалифицированные некоммерческие организации освобождаются от этого порога для некоммерческих и исследовательских целей.

Лабонн представил эту структуру как способ поддержания развития моделей: «Модели — это, по сути, защита от конкуренции, поэтому нам нужно разумно подходить к их лицензированию; в противном случае мы не сможем зарабатывать деньги, а значит, и создавать больше моделей», — при этом охарактеризовав пороговое значение как механизм, не требующий особого подхода на практике.

На вопрос о том, как компания вообще узнает, если крупное предприятие незаметно разместит открытые утяжелители, он ответил откровенно: «Думаю, это вопрос к нашей юридической команде, но лично я не знаю. И даже если сумма превышает 10 миллионов долларов, мы просим вас лишь связаться с нами».

По его словам, компания сочетает лицензированные модели с опубликованными в открытом доступе исследованиями, включая новые методы оценки структурированных результатов и методику обучения, которая позволяет избежать циклов повторения, характерных для небольших моделей, — проблему, в которой, как он отметил, модели Qwen «в некоторой степени виновны».

Небольшая модель, последствия для крупного предприятия

Запуск совпал с объявлением украинской компании MacPaw, разработчика программного обеспечения CleanMyMac и Setapp, о долгосрочном стратегическом партнерстве с Liquid AI для создания встроенной системы искусственного интеллекта для Mac.

Компания Liquid AI займется разработкой и доработкой базовых моделей для Eney, голосового помощника MacPaw для macOS, работающего локально на процессорах Apple Silicon с использованием механизма вывода Elix и слоя памяти Mnemos от MacPaw. Результаты ожидаются в конце этого года.

Лабонн указал на сделку как на конкретное подтверждение аргумента о размере: «Одна из причин, по которой они выбрали нас, заключается еще и в том, что наша модель довольно компактна, и у них нет всего объема памяти для запуска других моделей».

Релиз выходит на фоне растущих инвестиций производителей оборудования, разработчиков операционных систем и компаний-разработчиков корпоративного программного обеспечения в локальное выполнение ИИ, а также распространения агентских решений в отрасли. Liquid AI делает ставку на то, что экономика развертывания, а не масштабируемость, определит важный сегмент этого рынка: агенты, работающие непрерывно, повсюду, с нулевыми предельными затратами.

В конечном итоге, то, станут ли небольшие, высокооптимизированные модели агентов значимым сегментом корпоративного ИИ, будет зависеть не столько от результатов бенчмарков, сколько от операционной надежности. Но последний релиз Liquid AI предполагает, что следующий конкурентный рубеж — это уже не просто создание более крупных моделей, а создание моделей, достаточно маленьких и достаточно мощных, чтобы работать везде, где уже используются корпоративные рабочие процессы.

Источник: venturebeat.com