Закажи экспресс-аудит своего дела онлайн всего за 199 ₽
и получи рекомендации по улучшению - Жми сюда !

Google научила нейросети работать без интернета

195c9fe13b0dab58a6a7e65ffa0b4b2d

Google представила LiteRT-LM — фреймворк, который позволяет запускать большие языковые модели прямо на устройстве, без облака. Он уже лежит в основе Gemini Nano в Chrome, Chromebook Plus и Pixel Watch. LiteRT-LM делает ИИ быстрее, дешевле и приватнее — всё вычисляется локально.

Фреймворк написан на C++ и поддерживает Android, Linux, macOS, Windows и даже Raspberry Pi. Он умеет работать с CPU, GPU и NPU, использовать кэш KV, быстро переключаться между задачами и клонировать сессии. Теперь разработчики могут встроить полноценного офлайн-ассистента в любое приложение — хоть в браузер, хоть в умные часы.

https://github.com/google-ai-edge/LiteRT-LM

Источник: vk.com

Источник: ai-news.ru

✅ Найденные теги: Google, новости

Нет других записей в этой рубрике.

Новости других рубрик

Архив рубрики ~Лента новостей~: Психология страха: как ИИ напугал взрослых людей Архив рубрики ~Лента новостей~: Риски внедрения ИИ в основу нашей экономики, общества и государственного управления | Письма читателей Архив рубрики ~Лента новостей~: [Перевод] Отрезанные отростки морских огурцов отказываются умирать Архив рубрики ~Лента новостей~: Упс! Совместный с Domino’s стартап в области робототехники, который должен был уволить поваров-пиццерий с работы, только что закрылся Архив рубрики ~Лента новостей~: 5 маркетинговых профессий, которые AI закроет к 2027 году. И 6, которые наоборот вырастут Архив рубрики ~Лента новостей~: Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды Архив рубрики ~Лента новостей~: Метаанализ указал на максимальную эффективную дозу лекарств при СДВГ. И позволил оценить риск отказа от лекарств в зависимости от дозы Архив рубрики ~Лента новостей~: Microsoft и Atom Computing делятся своими достижениями в области квантовых вычислений.