Офлайн-ИИ на вашем телефоне В новых айфонах и топовых Android-флагманах…

Офлайн-ИИ на вашем телефоне

В новых айфонах и топовых Android-флагманах давно зашиты локальные модели, которые работают полностью офлайн. Проблема в том, что доступ к ним закрыт — этими моделями пользуются только сами Siri и Gemini под капотом, а не вы напрямую.

Хорошая новость — то же самое можно настроить руками, установив стороннее приложение с открытой моделью. Разница с обычным чат-ботом принципиальная: ничего не уходит в облако, всё считается прямо на устройстве, работает без интернета и по умолчанию приватно.

Что стоит знать перед тем как пробовать:

Подойдёт почти любой телефон. Главный лимит — не процессор, а оперативная память: от 6 ГБ — минимум, от 8 ГБ — уже комфортно. Меньше 8 ГБ — берите самые компактные модели (обозначаются как «1B» или «2B», где B — миллиарды параметров, условный «размер мозга» модели). Место на диске — не проблема: даже крупные модели на 7–8B параметров весят около 5 ГБ, так что на телефоне спокойно помещается сразу несколько, и можно переключаться между ними.

Модели, которые стоит искать: Gemma от Google, Llama, Phi-4 от Microsoft — версии с наименьшим числом параметров или пометкой «mini».

Приложения для запуска: Atomic Chat и PocketPal AI (оба под Android и iOS). PocketPal легче и сразу предлагает подходящую модель под конкретный телефон, Atomic Chat удобнее, если параллельно используете модели на компьютере.

Важная оговорка: локальная модель на телефоне ничего не знает про текущие события и не умеет искать в интернете — весь её «мир» заморожен на момент обучения. Зато отлично годится для мозгового штурма, редактуры и черновиков текста, быстрых сравнений вроде «подбери фильм, похожий на…». И да, галлюцинирует она точно так же, как облачные модели — воспринимать её ответ как гарантированно верный не стоит.

Пока это скорее эксперимент для тех, кто ценит приватность и офлайн-доступ, чем полноценная замена подписке — но как запасной вариант или проверка того, куда движется технология, работает вполне убедительно.

🟣#полезное