Пляски с CUDA можно заканчивать. Unsloth упаковал обучение 500+ нейросетей в бесплатное приложение

Локальный ИИ всегда звучал красиво ровно до момента, когда приходилось устанавливать драйверы, разбираться с квантованием, чинить зависимости и выяснять, почему модель снова сожрала всю видеопамять.

Unsloth решил спрятать большую часть этого дурдома за нормальным интерфейсом.

Компания выпустила Unsloth Studio бесплатную open-source среду, в которой можно скачивать, запускать, обучать и экспортировать локальные модели практически без кода.

Поддерживается больше 500 моделей, включая Qwen, DeepSeek, Llama, Gemma, Mistral, GLM и gpt-oss. Причём речь не только о текстовых LLM, Studio работает с моделями компьютерного зрения, аудио, эмбеддингами и TTS.

Можно скачать GGUF или Safetensors, запустить модель локально, загрузить собственные PDF, CSV и JSON, собрать из них датасет и начать дообучение через визуальный интерфейс. В процессе отображаются потери, использование GPU и другие метрики, за которыми раньше приходилось следить через терминал и костыли.

По данным Unsloth, обучение поддерживаемых моделей проходит примерно в два раза быстрее и требует до 70% меньше видеопамяти без потери точности.

После обучения модель можно экспортировать в GGUF или Safetensors и использовать через Ollama, llama.cpp, vLLM либо OpenAI-совместимый API.

Отдельно завезли агентные возможности. Локальная модель получает веб-поиск, вызов инструментов, выполнение Python и Bash в песочнице, работу с файлами и RAG. Её также можно подключить к Claude Code или Codex и гонять кодовые задачи без отправки проекта внешнему провайдеру.

Но волшебства с железом всё-таки не произошло.

Интерфейс запускается на Windows, Linux и macOS, однако полноценное обучение в Studio пока в первую очередь рассчитано на видеокарты NVIDIA RTX 30, 40 и 50 серий, Blackwell и поддерживаемые Intel GPU. На Mac и обычном CPU сейчас доступны чат и подготовка данных, а обучение через Apple MLX и AMD разработчики ещё доделывают. Модель на сотни миллиардов параметров в бабушкин ноутбук тоже внезапно не поместится.

Главная заслуга Unsloth не в том, что приложение отменило требования к железу. Оно убирает техническую кашу между человеком и локальной моделью.

Раньше для собственного ИИ требовался человек, который умеет разговаривать с CUDA. Теперь всё чаще будет достаточно человека, который знает, чему именно он хочет научить модель.

Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.