Обозреватель американского сайта MakeUseOf Брайан Вулф едет по Пенсильвании, связь на трассе пропадает совсем, а в телефоне куча голосовых заметок, которые надо привести в порядок до онлайн-встречи. Облачный чат без сети молчит.
Локальная нейросеть на телефоне уже работает: приложение один раз скачивает небольшую модель, и дальше она отвечает без интернета, даже в режиме полёта. Ей по силам поправить надиктованный текст и найти сумму на фото чека, хотя знает она меньше облачного чата. Вулф отобрал пять таких приложений, в российском App Store нашлись три.
Ошибиться здесь легко и незаметно: приложение обещает приватность, а в настройках стоит облачная модель. Это нейросеть на сервере компании, а не в телефоне, и личная заметка уходит туда.
Что локальная нейросеть на телефоне умеет без связи
Вулф проверял приложения на iPhone 17 Pro Max. По его словам, небольшие модели заметно подтянулись: Qwen 3.5, Gemma 4 и LFM 2.5 теперь помещаются в телефон. Запоминать эти названия не нужно. Под моделью здесь понимают файл с обученной нейросетью: приложение скачивает его один раз, а потом считает ответы на самом телефоне, и связь для этого не нужна.
Самый бытовой приём у Вулфа связан с диктовкой. Он настроил кнопку в «Быстрых командах», приложении iPhone для кнопок-сценариев: надиктованный текст уходит модели Qwen 3 4B с одним заданием, расставить знаки препинания и абзацы, а слова оставить как есть. По его словам, результат можно сразу вставлять в письмо.
Ещё по фото чека модель у него нашла итоговую сумму, а в приложении Enclave можно спросить о PDF-файле.
Почему локальная нейросеть на телефоне знает меньше облачного чата
Первая попытка у Вулфа не задалась. Крошечная модель размером 1B (о таких метках ниже) отвечала медленно и неуверенно, и примерно через неделю он удалил приложение: ChatGPT был в одно касание и умнее.
Локальная модель должна поместиться в телефон, поэтому она небольшая. Большие остаются на серверах облачных чатов. Выйти в интернет сама модель не может, пока приложение не даст ей такой инструмент. В приложении Google AI Edge Gallery такой инструмент есть: поиск по Википедии. Но поиску нужна связь.
Поэтому для поиска сведений Вулф оставил платные подписки на облачные сервисы, а на телефоне держит быстрые дела: почистить заметки и всё, что не хочется выгружать в сеть. Голосом без связи, по его словам, говорить пока неуютно: в режиме полёта ответы Enclave приходили с задержкой, а голос звучал очень механически.
Я смотрю на это так же: телефонная модель не замена облачному чату, а отдельный инструмент под одну задачу. Какие задачи я отдаю облаку, разбирал в статье о том, как делю работу между Claude и ChatGPT.
Какую модель скачать, чтобы телефон её потянул
Одна и та же Gemma 4 E2B у Вулфа скачалась в PocketPal файлом около 4 ГБ, а в Enclave весила 8 ГБ. В названии файла смотрят на две метки.
Первая, число с буквой B, означает миллиарды параметров: грубо говоря, объём того, чему модель научилась. Чем больше параметров, тем обычно лучше ответ, но тем больше нужно памяти. Новичку Вулф советует модели от 2B до 4B.
Вторая метка говорит о сжатии. Q8 ближе всего к исходной модели и весит больше всех, Q4 примерно вдвое легче, а качество, по словам Вулфа, теряет не так сильно, как можно подумать. Для телефона обычно берут файл с окончанием Q4_K_M.
Потянет ли телефон модель, зависит от оперативной памяти: файл берут на несколько гигабайт меньше её, потому что место нужно и системе. Модель на 8 ГБ у Вулфа запустилась на телефоне с 12 ГБ, но работала медленнее всех. Apple не пишет оперативную память в характеристиках iPhone, поэтому её ищут по названию своей модели телефона. Место под файлы тоже уходит быстро: каждое приложение хранит свою копию модели.
Что из этого можно поставить из России
В российском разделе App Store на октябрь 2026 года нашлись три приложения из пяти.
| Приложение | Чем полезно | iPhone, российский App Store | Android |
|---|---|---|---|
| PocketPal AI | модели из Hugging Face, открытого каталога моделей | есть, бесплатно, iOS 15.1 и новее | по описанию разработчика, есть |
| Private LLM | вызывается одной кнопкой через «Быстрые команды», только текст | есть, 299 ₽ | неизвестно |
| Enclave | голосовой чат и вопросы к PDF без интернета | есть, бесплатно, нужна iOS 27 | неизвестно |
| Google AI Edge Gallery | модели Gemma, расшифровка голосовых записей; пока бета | не находится | по описанию разработчика, Android 12 и новее |
| Locally (от LM Studio) | может брать модель с домашнего компьютера | не находится | неизвестно |
По справке Google Play для разработчиков, на октябрь 2026 года оплата для пользователей в России приостановлена: платное там не купить, бесплатные приложения доступны. PocketPal бесплатный, и по описанию разработчика он есть в Google Play. Для iPhone наличие проверено по российскому App Store, для Android нет: PocketPal и Gallery в Play Маркете ищите по названию. Не нашлось, значит, этот путь пока для iPhone; другие способы установки я не разбираю.
Версию системы вы найдёте так: на iPhone «Настройки», «Основные», «Об этом устройстве»; на Android «Настройки», «О телефоне», «Версия Android» (у разных производителей названия пунктов могут отличаться).
Как проверить, что нейросеть считает ответ в самом телефоне
Слово «приватный» в описании приложения ничего не доказывает. Проверка из 4 шагов за минуту покажет одно: модель отвечает на самом телефоне, а не в облаке. Я бы делал её до первой личной заметки, так же, как на компьютере: об этом в статье про нейросеть без интернета на компьютере.
- Скачайте модель дома по Wi-Fi: файл весит несколько гигабайт (как это сделать в PocketPal, описано в последнем разделе).
- Включите режим полёта.
- Дайте модели обычное задание: поправить заметку или ответить на вопрос.
- Ответ пришёл, значит, модель работает в телефоне.
Если пришла ошибка, сначала проверьте, загружена ли модель кнопкой Load (так PocketPal загружает скачанную модель в память телефона) и не слишком ли велик файл для вашего телефона. Если всё в порядке, а ответа нет, приложение, скорее всего, ждёт сеть.
Разработчики PocketPal пишут, что наружу уходят только замеры скорости и отзывы, если пользователь сам решил ими поделиться. Это их слова. Режим полёта показывает, что модель считает ответ без сети, но не то, что приложение ничего не отправляет, когда сеть включена. Поэтому личное я бы вставлял, только если вы доверяете приложению, а не потому, что проверка в режиме полёта прошла.
Отдельно посмотрите, какая модель выбрана. Enclave, например, умеет подключать облачные Claude и Gemini, и Вулф советует проверить выбор до того, как вставлять личное. Офлайн-приложение с облачной моделью внутри отправляет текст в сеть так же, как обычный чат.
Частые вопросы
Пойдёт ли нейросеть на старом телефоне?
Зависит от приложения и памяти. Нужная версия системы указана в таблице выше и на странице приложения в магазине: PocketPal просит iOS 15.1 и новее, Enclave просит iOS 27, а Gallery по описанию разработчика работает на Android 12 и новее. На старом телефоне начинайте с самой маленькой модели и сжатого файла.
Нужны ли аккаунт и интернет хоть когда-нибудь?
Интернет нужен, чтобы поставить приложение и один раз скачать модель. Дальше, по описанию разработчиков PocketPal, ни аккаунт, ни облако, ни сеть не нужны. Locally, по словам Вулфа, тоже обходится без аккаунта. Связь понадобится снова, только если вы включите функцию, которая сама ходит в сеть, например поиск по Википедии в Gallery.
Одна заметка в режиме полёта: с чего начать
Для задачи из той поездки хватает небольшой локальной модели на 2–4B. Я бы начинал с одной такой задачи, а не с выбора «самой умной» модели. Порядок для PocketPal по описанию разработчика (названия экранов могут отличаться):
- Поставьте PocketPal из App Store или Play Маркета.
- Дома по Wi-Fi откройте меню (значок с тремя полосками) и раздел Models. Нажмите + и найдите через поиск по Hugging Face модель на 2B–4B, например Gemma 4 E2B (для некоторых моделей на Hugging Face нужно сначала принять условия автора): её Вулф скачивал в PocketPal прямо оттуда. Берите файл с Q4_K_M в названии, а если такого нет, любой с Q4, и нажмите Download.
- Когда файл скачается, нажмите Load, чтобы загрузить модель в память телефона, и откройте раздел Chat.
- Включите режим полёта, вставьте заметку или любой текст без знаков препинания и напишите: «Расставь знаки препинания и раздели текст на абзацы. Слова не меняй и не добавляй новых».
Ответ сравните с исходником по словам: не пропало ли слово, не поменялось ли число или имя.
Если готовые приложения не подходят, потому что задача рабочая, а данные закрытые, я соберу инструмент под неё: напишите, разберём.
Эльхан Дадашев, ИИ-архитектор. Собираю инструменты на нейросетях под задачи людей, когда готовые программы не устраивают. Здесь пишу, с какими задачами сталкивался сам и как их решил, и разбираю новые нейросети по тому, что они меняют в обычной работе.
Написать автору: Telegram · MAX · Работа со мной
Нужна такая же система под вашу задачу — разбираю процесс и проектирую её на ИИ.