Архив рубрики ~Коротко из Telegram~

LLM на 28 млн параметров смогли запустить на микроконтроллере за…

31.07.2026

File 662

LLM на 28 млн параметров смогли запустить на микроконтроллере за $8

Энтузиаст запустил языковую модель на 28 млн параметров на микроконтроллере ESP32-S3. Скорость — около 9,5 токена в секунду, а ответы выводятся прямо на встроенный экран.

Всё благодаря хитрой архитектуре: 25 млн параметров хранятся во флеш-памяти, а в ОЗУ остаётся только «мыслящее ядро». GitHub проекта здесь.

Ждём запуск LLM на калькуляторе и тостере

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Представлен «Рутокен ЭЦП 3.0 Flash 5100» для электронной подписи и защиты данных Архив рубрики ~Лента новостей~ Кто скрывается за глобальной скупкой старых книг: в августе охота пошла по всему миру Архив рубрики ~Лента новостей~ Пул‑реквестов от ИИ стало вчетверо больше за полгода. Кто их читает? Архив рубрики ~Лента новостей~ Как я записал целую русскую повесть в Bitcoin: эксперимент с авторским правом и временем Архив рубрики ~Лента новостей~ Бег с детской коляской оказался потенциально безопасным. Такие бегуны получали меньше травм Архив рубрики ~Лента новостей~ Телеканал PBS опасается потери 50 ТБ данных после того, как облачный провайдер удалил их из его хранилища. Новости робототехники Пять лет работы определили внедрение Diligent Robotics Moxi 2.0 Архив рубрики ~Лента новостей~ Интервью с Карлом Вахсвендером из Lattice Semiconductor: «Параллельная обработка обеспечивает более видимый периферийный искусственный интеллект» Архив рубрики ~Лента новостей~ Стартап Relay, занимавшийся автоматизацией с помощью ИИ, закрылся, его сотрудники перешли в команду Chrome компании Google. Архив рубрики ~Лента новостей~ Взгляд за пределы ИМТ: оценка кардиометаболического риска с помощью изображений, полученных с помощью смартфона. Архив рубрики ~Лента новостей~ Продаем кровлю через ИИ Архив рубрики ~Лента новостей~ Qwen3.8-27B на своей карте против 304B по API Архив рубрики ~Лента новостей~ 2000 идентификаций в секунду: как выбрать нужную таблицу на документе без нейросетей Архив рубрики ~Лента новостей~ Найденные учеными пики возрастных изменений назвали возможным артефактом обработки данных. За них могут отвечать использованные инструменты LOESS и DE-SWAN Архив рубрики ~Лента новостей~ Представлен «Рутокен ЭЦП 3.0 Flash 5100» для электронной подписи и защиты данных Архив рубрики ~Лента новостей~ Кто скрывается за глобальной скупкой старых книг: в августе охота пошла по всему миру Архив рубрики ~Лента новостей~ Пул‑реквестов от ИИ стало вчетверо больше за полгода. Кто их читает? Архив рубрики ~Лента новостей~ Как я записал целую русскую повесть в Bitcoin: эксперимент с авторским правом и временем Архив рубрики ~Лента новостей~ Бег с детской коляской оказался потенциально безопасным. Такие бегуны получали меньше травм Архив рубрики ~Лента новостей~ Телеканал PBS опасается потери 50 ТБ данных после того, как облачный провайдер удалил их из его хранилища. Новости робототехники Пять лет работы определили внедрение Diligent Robotics Moxi 2.0 Архив рубрики ~Лента новостей~ Интервью с Карлом Вахсвендером из Lattice Semiconductor: «Параллельная обработка обеспечивает более видимый периферийный искусственный интеллект» Архив рубрики ~Лента новостей~ Стартап Relay, занимавшийся автоматизацией с помощью ИИ, закрылся, его сотрудники перешли в команду Chrome компании Google. Архив рубрики ~Лента новостей~ Взгляд за пределы ИМТ: оценка кардиометаболического риска с помощью изображений, полученных с помощью смартфона. Архив рубрики ~Лента новостей~ Продаем кровлю через ИИ Архив рубрики ~Лента новостей~ Qwen3.8-27B на своей карте против 304B по API Архив рубрики ~Лента новостей~ 2000 идентификаций в секунду: как выбрать нужную таблицу на документе без нейросетей Архив рубрики ~Лента новостей~ Найденные учеными пики возрастных изменений назвали возможным артефактом обработки данных. За них могут отвечать использованные инструменты LOESS и DE-SWAN

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 44