Qwen3-VL теперь можно запускать локально
Хорошая новость для тех, кто хочет сильный мультимодальный стек без облака:
— Qwen3-VL-235B можно поднять на 128 ГБ unified memory (динамическое 4-bit). Это уже уровень SOTA в СМ b OCR.
— Qwen3-VL-2B спокойно выдает ~40 токенов/сек на 4 ГБ ОЗУ.
Плюс:
— есть фиксированный chat-template
— полная поддержка тонкой настройки и RL
— готовые блокноты через Unsloth (бесплатно)
— экспорт в GGUF, так что можно кормить всё это локальным рантаймам
Документация: docs.unsloth.ai/models/qwen3-vl
Источник: vk.com
Источник: ai-news.ru
Похожие записи
Оцените материал:
Архив рубрики ~Обо всем~
Я использовал HyperDroid, чтобы мои Android-устройства выглядели и работали как устройства под управлением Windows 11, и нисколько об этом не жалею.
Новости робототехники
Президент SpaceX Гвинн Шотвелл дала очередной намек на возможное слияние с Tesla.
Архив рубрики ~Обо всем~
«Подземелья и драконы: Честь среди воров», «Претенденты» и другие фильмы, которые вы сможете посмотреть бесплатно в июне 2026 года.
Архив рубрики ~Обо всем~
IPO компании SpaceX привело к краху Robinhood для некоторых пользователей.
Новости робототехники
Симулятор рисков для крипты: написал инструмент, который считает за меня размер позиции и стресс-тестирует портфель
Архив рубрики ~Обо всем~
Это бесплатное приложение для Android превратило мой телефон в измерительный инструмент на 35 предметов — и я протестировал всё.
Архив рубрики ~Обо всем~
Лучшие приложения для тренировок для женщин, чтобы оставаться активными и мотивированными.
Архив рубрики ~Обо всем~
Компании DJI и Insta360 ведут патентную войну на камеры для видеоблогинга.
Архив рубрики ~Обо всем~
В игре Claude Fable 5 исследователи искусственного интеллекта тайно ограничивали свои возможности, и интернет взорвался от возмущения.
Архив рубрики ~Обо всем~
Конгресс позволил устареть действовавшему десятилетиями закону о слежке на фоне спорного назначения Трампом директора Национальной разведки.
Архив рубрики ~Обо всем~
40% предприятий откажутся от использования ИИ-агентов — 3 способа гарантировать, что ваши агенты не подведут.
Архив рубрики ~Обо всем~
Как и ожидалось, апелляция Сэма Бэнкмана-Фрида по делу о мошенничестве была отклонена.
Архив рубрики ~Обо всем~
Как я настроил свой Android Auto семью способами, чтобы сделать его более полезным за рулем
Архив рубрики ~Обо всем~
Эти 8 ошибок при приготовлении пиццы в печи саботируют ваши домашние пироги.
Архив рубрики ~Обо всем~
Я использовал HyperDroid, чтобы мои Android-устройства выглядели и работали как устройства под управлением Windows 11, и нисколько об этом не жалею.
Новости робототехники
Президент SpaceX Гвинн Шотвелл дала очередной намек на возможное слияние с Tesla.
Архив рубрики ~Обо всем~
«Подземелья и драконы: Честь среди воров», «Претенденты» и другие фильмы, которые вы сможете посмотреть бесплатно в июне 2026 года.
Архив рубрики ~Обо всем~
IPO компании SpaceX привело к краху Robinhood для некоторых пользователей.
Новости робототехники
Симулятор рисков для крипты: написал инструмент, который считает за меня размер позиции и стресс-тестирует портфель
Архив рубрики ~Обо всем~
Это бесплатное приложение для Android превратило мой телефон в измерительный инструмент на 35 предметов — и я протестировал всё.
Архив рубрики ~Обо всем~
Лучшие приложения для тренировок для женщин, чтобы оставаться активными и мотивированными.
Архив рубрики ~Обо всем~
Компании DJI и Insta360 ведут патентную войну на камеры для видеоблогинга.
Архив рубрики ~Обо всем~
В игре Claude Fable 5 исследователи искусственного интеллекта тайно ограничивали свои возможности, и интернет взорвался от возмущения.
Архив рубрики ~Обо всем~
Конгресс позволил устареть действовавшему десятилетиями закону о слежке на фоне спорного назначения Трампом директора Национальной разведки.
Архив рубрики ~Обо всем~
40% предприятий откажутся от использования ИИ-агентов — 3 способа гарантировать, что ваши агенты не подведут.
Архив рубрики ~Обо всем~
Как и ожидалось, апелляция Сэма Бэнкмана-Фрида по делу о мошенничестве была отклонена.
Архив рубрики ~Обо всем~
Как я настроил свой Android Auto семью способами, чтобы сделать его более полезным за рулем
Архив рубрики ~Обо всем~
Эти 8 ошибок при приготовлении пиццы в печи саботируют ваши домашние пироги.
Похожие записи
Архив рубрики ~Лента новостей~
6 невероятных новых динозавров, которых мы откроем в 2025 году.
25.12.2025
Архив рубрики ~Лента новостей~
В лице Н. Хомского мы имеем характернейший пример учёного 17-го века
05.04.2026
Архив рубрики ~Лента новостей~
