Архив рубрики ~Полезное~

Запускаем 27B-модель почти на любом железе — спецы из PrismML…

Запускаем 27B-модель почти на любом железе — спецы из PrismML…
File 2008

Запускаем 27B-модель почти на любом железе — спецы из PrismML дропнули Bonsai 2 27B.
Это сжатая в 9️⃣ раз версия Qwen3.8 27B.

При этом в способностях модель сохранила 98% среднего результата оригинала на бенчах, зато теперь вместо 54 ГБ она занимает 5,9 ГБ.

Напоминаем:
🔤Это мультимодальная моделька;
🔤Она особенно хороша в кодинге;
🔤Поддерживает контекст 262K;
🔤Может локально работать на железе юзера.

Самая мощная и миниатюрная ИИ-помощница — https://huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf.

Теперь «у меня слабый комп» звучит всё менее убедительно.

#полезное

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Компания Meta сообщает, что пользователи из США теперь могут общаться по видеосвязи со своим аватаром Muse AI. Архив рубрики ~Лента новостей~ Почему для бренда ChatGPT и Алиса это не конкуренты, а разные рынки Архив рубрики ~Лента новостей~ «Богатство агентов»: масштабирование ИИ без увеличения модели Архив рубрики ~Лента новостей~ Токенизация потенциала человека: что показали BitClout и Friend.tech и что нужно, чтобы это заработало Архив рубрики ~Лента новостей~ Пренатальное воздействие акриламида связали с риском развития депрессии во взрослом возрасте. И риском развития тревожности Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Архив рубрики ~Лента новостей~ По сообщениям, Apple сокращает бюджеты на использование искусственного интеллекта внутри компании. Архив рубрики ~Лента новостей~ Озвучить текст нейросетью: полный гайд по ElevenLabs, чтобы голос звучал естественно Архив рубрики ~Лента новостей~ AI Assisted Development или как не убить кучу времени на код-ревью агентов Архив рубрики ~Лента новостей~ Среди древних кошек из Египта выявили диких особей. Их черепа хранились много лет в Вене Архив рубрики ~Лента новостей~ Почему 0.1 + 0.2 не равно 0.3: как ПК хранит дробные числа? Архив рубрики ~Лента новостей~ Индийская компания EloElo привлекла 80 миллионов долларов от NBCUniversal, сделав ставку на растущий рынок микросериалов в стране. Архив рубрики ~Лента новостей~ Компания, созданная на базе Массачусетского технологического института, превращает пластиковые отходы в прочные строительные материалы. Архив рубрики ~Лента новостей~ Claude Ultra за 200 долларов: пятичасовой лимит сняли, но не всем Архив рубрики ~Лента новостей~ Компания Meta сообщает, что пользователи из США теперь могут общаться по видеосвязи со своим аватаром Muse AI. Архив рубрики ~Лента новостей~ Почему для бренда ChatGPT и Алиса это не конкуренты, а разные рынки Архив рубрики ~Лента новостей~ «Богатство агентов»: масштабирование ИИ без увеличения модели Архив рубрики ~Лента новостей~ Токенизация потенциала человека: что показали BitClout и Friend.tech и что нужно, чтобы это заработало Архив рубрики ~Лента новостей~ Пренатальное воздействие акриламида связали с риском развития депрессии во взрослом возрасте. И риском развития тревожности Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Архив рубрики ~Лента новостей~ По сообщениям, Apple сокращает бюджеты на использование искусственного интеллекта внутри компании. Архив рубрики ~Лента новостей~ Озвучить текст нейросетью: полный гайд по ElevenLabs, чтобы голос звучал естественно Архив рубрики ~Лента новостей~ AI Assisted Development или как не убить кучу времени на код-ревью агентов Архив рубрики ~Лента новостей~ Среди древних кошек из Египта выявили диких особей. Их черепа хранились много лет в Вене Архив рубрики ~Лента новостей~ Почему 0.1 + 0.2 не равно 0.3: как ПК хранит дробные числа? Архив рубрики ~Лента новостей~ Индийская компания EloElo привлекла 80 миллионов долларов от NBCUniversal, сделав ставку на растущий рынок микросериалов в стране. Архив рубрики ~Лента новостей~ Компания, созданная на базе Массачусетского технологического института, превращает пластиковые отходы в прочные строительные материалы. Архив рубрики ~Лента новостей~ Claude Ultra за 200 долларов: пятичасовой лимит сняли, но не всем

Оставить комментарий