Архив рубрики ~Коротко из Telegram~

LLM на 28 млн параметров смогли запустить на микроконтроллере за…

31.07.2026

File 662

LLM на 28 млн параметров смогли запустить на микроконтроллере за $8

Энтузиаст запустил языковую модель на 28 млн параметров на микроконтроллере ESP32-S3. Скорость — около 9,5 токена в секунду, а ответы выводятся прямо на встроенный экран.

Всё благодаря хитрой архитектуре: 25 млн параметров хранятся во флеш-памяти, а в ОЗУ остаётся только «мыслящее ядро». GitHub проекта здесь.

Ждём запуск LLM на калькуляторе и тостере

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ [Перевод] Космический телескоп «Роман» будет искать древние чёрные дыры, наблюдая за тем, как они поглощают звёзды Архив рубрики ~Лента новостей~ Ещё больше технологий кубитов: новые варианты квантовых точек, вакансии в алмазной отрасли. Архив рубрики ~Лента новостей~ Winamp планирует вернуться на рынок благодаря новому партнерству с Deezer. Архив рубрики ~Лента новостей~ Компания Apple накапливает запасы продукции, готовясь к «значительным ограничениям поставок». Архив рубрики ~Лента новостей~ Гипотеза о Языке Мышления как альтернатива Искусственному Интеллекту Архив рубрики ~Лента новостей~ Обзоры искусственного интеллекта от Google становятся все более распространенными в результатах поиска. Архив рубрики ~Лента новостей~ Gemini Plus можно получить на год бесплатно! Новости робототехники Компания Bright Machines заявляет, что ее новая гибридная роботизированная ячейка может помочь решить серьезную проблему, связанную с дефицитом инфраструктуры искусственного интеллекта. Архив рубрики ~Лента новостей~ На самом деле, Starliner может отправиться в космос уже в этом году. Новости робототехники Робо-костюм Тони Старка создан Мы уже писали про это, но… Архив рубрики ~Обо всем~ Spotify запускает режим для бега с настраиваемыми плейлистами и функцией тренировок. Новости робототехники Двухметрового робота-кентавра создали в США. Его будут отправлять слишком опасные… Архив рубрики ~Полезное~ В OpenAI Showcase появился Material Lab — интерактивный инструмент… Архив рубрики ~Полезное~ Транскрибируем аудио в текст за секунды — и всё… Архив рубрики ~Лента новостей~ [Перевод] Космический телескоп «Роман» будет искать древние чёрные дыры, наблюдая за тем, как они поглощают звёзды Архив рубрики ~Лента новостей~ Ещё больше технологий кубитов: новые варианты квантовых точек, вакансии в алмазной отрасли. Архив рубрики ~Лента новостей~ Winamp планирует вернуться на рынок благодаря новому партнерству с Deezer. Архив рубрики ~Лента новостей~ Компания Apple накапливает запасы продукции, готовясь к «значительным ограничениям поставок». Архив рубрики ~Лента новостей~ Гипотеза о Языке Мышления как альтернатива Искусственному Интеллекту Архив рубрики ~Лента новостей~ Обзоры искусственного интеллекта от Google становятся все более распространенными в результатах поиска. Архив рубрики ~Лента новостей~ Gemini Plus можно получить на год бесплатно! Новости робототехники Компания Bright Machines заявляет, что ее новая гибридная роботизированная ячейка может помочь решить серьезную проблему, связанную с дефицитом инфраструктуры искусственного интеллекта. Архив рубрики ~Лента новостей~ На самом деле, Starliner может отправиться в космос уже в этом году. Новости робототехники Робо-костюм Тони Старка создан Мы уже писали про это, но… Архив рубрики ~Обо всем~ Spotify запускает режим для бега с настраиваемыми плейлистами и функцией тренировок. Новости робототехники Двухметрового робота-кентавра создали в США. Его будут отправлять слишком опасные… Архив рубрики ~Полезное~ В OpenAI Showcase появился Material Lab — интерактивный инструмент… Архив рубрики ~Полезное~ Транскрибируем аудио в текст за секунды — и всё…

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 43