Надоело, что облачные ассистенты жрут код и требуют интернет. Собрал локального — BiNeuron
Привет, DTF. Обычно я тут только читаю посты про сетапы и игры, но тут решил выложить свой пет-проект. Если выглядит как реклама — извините, но мне правда нужен фидбек. Писал сам, без нейронок. Ну, почти.
Короче, история такая. Я часто пишу код, и меня задолбало:
1) облачные ассистенты, которые отправляют твой код хз куда;2) ручной подбор квантизации под своё железо (то IQ2, то Q4_K_M, то F16 — глаза разбегаются);3) копирование текста из PDF и скринов вручную, как в каменном веке.
В итоге собрал BiNeuron — локальный ассистент для кодинга. Работает офлайн, сам смотрит на твоё железо (CPU, RAM, частота) и выбирает оптимальную квантизацию для целевой модели. От IQ2 до F16. Чтобы не было «запустил 70B на ноуте и ушёл пить чай до утра».
Что ещё умеет:
1) Определяет язык программирования по запросу или по файлам. Поддерживает 25+ языков, от Python и Rust до Solidity и COBOL (да, кто-то ещё пишет на COBOL, и я вас не осуждаю).2) Тащит текст из PDF, Word, PowerPoint, Excel, EPUB, MOBI, FB2. Картинки прогоняет через EasyOCR или DeepSeek OCR, если есть GPU — ускоряется.3) Полностью офлайн. Никаких облачных API. Если нужен Hugging Face, есть fallback на зеркало.4) Двухэтапный pipeline для редактирования файлов: основная модель генерит код, потом лёгкая модель (типа Qwen2.5-Coder-1.5B) превращает это в строгий JSON с абсолютными путями и содержимым файлов. Удобно, когда надо не просто «покажи код», а «вот тебе файл, поправь».
Технически: Python, открытая лицензия. Есть поддержка прокси, фильтр мата (отключается), встроенный HTML-скрапер для чтения страниц в контекст.
Что хочу спросить у сообщества:
- Насколько вам вообще нужен автоподбор квантизации? Или вы любите руками всё контролировать?
- Какие форматы файлов ещё добавить? Сейчас есть PDF, DOCX, ODF, PPTX, XLSX, EPUB, MOBI, FB2.
- Стоит ли прикрутить поддержку GGUF из Ollama или LM Studio?
Ссылка на GitHub: https://github.com/just-not-google/BiNeuron
Буду рад звёздочкам, фидбеку и конструктивной критике. Если что-то не работает — пишите, поправлю. Писал сам, без нейронок. Ну, почти.
Источник: vc.ru
Оцените материал:
Похожие записи
Присоединяйтесь и подпишитесь на рассылку самых свежих новостей по Email
Получайте свежие новости и идеи на почту. Без спама — только самое интересное.
Нажимая «Подписаться», вы соглашаетесь с политикой конфиденциальности.
