Запускаем 27B-модель почти на любом железе — спецы из PrismML…
Запускаем 27B-модель почти на любом железе — спецы из PrismML дропнули Bonsai 2 27B.
Это сжатая в 9️⃣ раз версия Qwen3.8 27B.
При этом в способностях модель сохранила 98% среднего результата оригинала на бенчах, зато теперь вместо 54 ГБ она занимает 5,9 ГБ.
Напоминаем:
🔤Это мультимодальная моделька;
🔤Она особенно хороша в кодинге;
🔤Поддерживает контекст 262K;
🔤Может локально работать на железе юзера.
Самая мощная и миниатюрная ИИ-помощница — https://huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf.
Теперь «у меня слабый комп» звучит всё менее убедительно.
#полезное
Оцените материал:
Поделиться
Понравилась статья? Расскажите другим
Архив рубрики ~Лента новостей~
Компания Meta сообщает, что пользователи из США теперь могут общаться по видеосвязи со своим аватаром Muse AI.
Архив рубрики ~Лента новостей~
Почему для бренда ChatGPT и Алиса это не конкуренты, а разные рынки
Архив рубрики ~Лента новостей~
«Богатство агентов»: масштабирование ИИ без увеличения модели
Архив рубрики ~Лента новостей~
Токенизация потенциала человека: что показали BitClout и Friend.tech и что нужно, чтобы это заработало
Архив рубрики ~Лента новостей~
Пренатальное воздействие акриламида связали с риском развития депрессии во взрослом возрасте. И риском развития тревожности
Новости робототехники
БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА
Архив рубрики ~Лента новостей~
По сообщениям, Apple сокращает бюджеты на использование искусственного интеллекта внутри компании.
Архив рубрики ~Лента новостей~
Озвучить текст нейросетью: полный гайд по ElevenLabs, чтобы голос звучал естественно
Архив рубрики ~Лента новостей~
AI Assisted Development или как не убить кучу времени на код-ревью агентов
Архив рубрики ~Лента новостей~
Среди древних кошек из Египта выявили диких особей. Их черепа хранились много лет в Вене
Архив рубрики ~Лента новостей~
Почему 0.1 + 0.2 не равно 0.3: как ПК хранит дробные числа?
Архив рубрики ~Лента новостей~
Индийская компания EloElo привлекла 80 миллионов долларов от NBCUniversal, сделав ставку на растущий рынок микросериалов в стране.
Архив рубрики ~Лента новостей~
Компания, созданная на базе Массачусетского технологического института, превращает пластиковые отходы в прочные строительные материалы.
Архив рубрики ~Лента новостей~
Claude Ultra за 200 долларов: пятичасовой лимит сняли, но не всем
Архив рубрики ~Лента новостей~
Компания Meta сообщает, что пользователи из США теперь могут общаться по видеосвязи со своим аватаром Muse AI.
Архив рубрики ~Лента новостей~
Почему для бренда ChatGPT и Алиса это не конкуренты, а разные рынки
Архив рубрики ~Лента новостей~
«Богатство агентов»: масштабирование ИИ без увеличения модели
Архив рубрики ~Лента новостей~
Токенизация потенциала человека: что показали BitClout и Friend.tech и что нужно, чтобы это заработало
Архив рубрики ~Лента новостей~
Пренатальное воздействие акриламида связали с риском развития депрессии во взрослом возрасте. И риском развития тревожности
Новости робототехники
БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА
Архив рубрики ~Лента новостей~
По сообщениям, Apple сокращает бюджеты на использование искусственного интеллекта внутри компании.
Архив рубрики ~Лента новостей~
Озвучить текст нейросетью: полный гайд по ElevenLabs, чтобы голос звучал естественно
Архив рубрики ~Лента новостей~
AI Assisted Development или как не убить кучу времени на код-ревью агентов
Архив рубрики ~Лента новостей~
Среди древних кошек из Египта выявили диких особей. Их черепа хранились много лет в Вене
Архив рубрики ~Лента новостей~
Почему 0.1 + 0.2 не равно 0.3: как ПК хранит дробные числа?
Архив рубрики ~Лента новостей~
Индийская компания EloElo привлекла 80 миллионов долларов от NBCUniversal, сделав ставку на растущий рынок микросериалов в стране.
Архив рубрики ~Лента новостей~
Компания, созданная на базе Массачусетского технологического института, превращает пластиковые отходы в прочные строительные материалы.
Архив рубрики ~Лента новостей~
Claude Ultra за 200 долларов: пятичасовой лимит сняли, но не всем
Похожие записи
Присоединяйтесь и подпишитесь на рассылку самых свежих новостей по Email
Получайте свежие новости и идеи на почту. Без спама — только самое интересное.
Нажимая «Подписаться», вы соглашаетесь с политикой конфиденциальности.
