Архив рубрики ~Лента новостей~

Пляски с CUDA можно заканчивать. Unsloth упаковал обучение 500+ нейросетей в бесплатное приложение

Пляски с CUDA можно заканчивать. Unsloth упаковал обучение 500+ нейросетей в бесплатное приложение
Featured Img 5114757957937690032

Локальный ИИ всегда звучал красиво ровно до момента, когда приходилось устанавливать драйверы, разбираться с квантованием, чинить зависимости и выяснять, почему модель снова сожрала всю видеопамять.

Unsloth решил спрятать большую часть этого дурдома за нормальным интерфейсом.

Компания выпустила Unsloth Studio бесплатную open-source среду, в которой можно скачивать, запускать, обучать и экспортировать локальные модели практически без кода.

Поддерживается больше 500 моделей, включая Qwen, DeepSeek, Llama, Gemma, Mistral, GLM и gpt-oss. Причём речь не только о текстовых LLM, Studio работает с моделями компьютерного зрения, аудио, эмбеддингами и TTS.

Можно скачать GGUF или Safetensors, запустить модель локально, загрузить собственные PDF, CSV и JSON, собрать из них датасет и начать дообучение через визуальный интерфейс. В процессе отображаются потери, использование GPU и другие метрики, за которыми раньше приходилось следить через терминал и костыли.

По данным Unsloth, обучение поддерживаемых моделей проходит примерно в два раза быстрее и требует до 70% меньше видеопамяти без потери точности.

После обучения модель можно экспортировать в GGUF или Safetensors и использовать через Ollama, llama.cpp, vLLM либо OpenAI-совместимый API.

Отдельно завезли агентные возможности. Локальная модель получает веб-поиск, вызов инструментов, выполнение Python и Bash в песочнице, работу с файлами и RAG. Её также можно подключить к Claude Code или Codex и гонять кодовые задачи без отправки проекта внешнему провайдеру.

Но волшебства с железом всё-таки не произошло.

Интерфейс запускается на Windows, Linux и macOS, однако полноценное обучение в Studio пока в первую очередь рассчитано на видеокарты NVIDIA RTX 30, 40 и 50 серий, Blackwell и поддерживаемые Intel GPU. На Mac и обычном CPU сейчас доступны чат и подготовка данных, а обучение через Apple MLX и AMD разработчики ещё доделывают. Модель на сотни миллиардов параметров в бабушкин ноутбук тоже внезапно не поместится.

Главная заслуга Unsloth не в том, что приложение отменило требования к железу. Оно убирает техническую кашу между человеком и локальной моделью.

Раньше для собственного ИИ требовался человек, который умеет разговаривать с CUDA. Теперь всё чаще будет достаточно человека, который знает, чему именно он хочет научить модель.

Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.

Источник: vc.ru

❌ Нет похожих статей с такими тегами

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений.

Оставить комментарий