Запускаем 27B-модель почти на любом железе — спецы из PrismML…

Запускаем 27B-модель почти на любом железе — спецы из PrismML дропнули Bonsai 2 27B.
Это сжатая в 9️⃣ раз версия Qwen3.8 27B.

При этом в способностях модель сохранила 98% среднего результата оригинала на бенчах, зато теперь вместо 54 ГБ она занимает 5,9 ГБ.

Напоминаем:
🔤Это мультимодальная моделька;
🔤Она особенно хороша в кодинге;
🔤Поддерживает контекст 262K;
🔤Может локально работать на железе юзера.

Самая мощная и миниатюрная ИИ-помощница — тут.

Теперь «у меня слабый комп» звучит всё менее убедительно.

#полезное