1-битная FLUX уже запускается на телефоне — и это выглядит…

1-битная FLUX уже запускается на телефоне — и это выглядит неожиданно нормально

Стартап PrismML продолжает пушить экстремальную квантизацию моделей — и показал Bonsai Image 4B, фактически 1-битную версию FLUX.2 Klein 4B.

И самое удивительное — качество оказалось вполне живым.

Что получилось:

— Diffusion Transformer ужали до:
— 930 МБ в 1-bit варианте
— ~1.2 ГБ в ternary-варианте

— правда, text encoder настолько сильно сжать не удалось
— полный комплект весит около 3.5 ГБ

Главная фишка — запуск прямо на мобильных устройствах и в браузере.

Что заявляют:

— работает примерно с 2 ГБ RAM
— генерация 512×512 на iPhone 17 Pro Max:
— около 9.4 секунды
— всего за 4 шага

Причём часть вычислений идёт с offloading, так что результат выглядит ещё интереснее.

Вся индустрия сейчас постепенно движется к очень странному будущему:

раньше diffusion-модели требовали огромные GPU-кластеры, а теперь полноценный image generation начинает помещаться буквально в карман.