Локальный ИИ на ПК в 2026: Ollama, нейросети без интернета и модели для русского языка

43 790 запросов в месяц - столько раз люди ищут «ollama» в Яндексе. Примерно столько же, сколько «ChatGPT скачать». Это не технологи и не разработчики - это обычные люди, которым надоело платить подписку, отправлять рабочие данные в облако или получать ответы в стиле «я не могу помочь с этим».

Разбираю что такое Ollama, как запустить её на вашем компьютере, какие модели нормально понимают русский, и чего ждать от локального ИИ без интернета.

Зачем вообще запускать ИИ локально

Три реальных причины, которые встречаю чаще всего.

Приватность. Юрист не может отправлять клиентские договоры в ChatGPT. Врач - медицинские карты. Предприниматель - финансовую модель, которую не хочет светить. Локальный ИИ обрабатывает текст прямо на твоём компьютере - ни один запрос не уходит наружу.

Автономность. Плохой интернет, корпоративная сеть с ограничениями, командировка в другую страну, самолёт. Загрузили модель один раз - дальше работает без сети.

Стоимость. ChatGPT Plus стоит $20 в месяц. Если ты используешь ИИ часто и интенсивно - API обходится ещё дороже. Ollama с моделью Qwen2.5:7b - бесплатно навсегда, кроме электричества.

Четвёртая причина - «без цензуры». Вернусь к ней отдельно, потому что её часто понимают неправильно.

Что такое Ollama

Представьте менеджер пакетов для нейросетей. Как apt или brew, только вместо программ - языковые модели.

Одна команда в терминале:

ollama run qwen2.5:7b

Ollama сама находит модель в библиотеке, скачивает нужный файл, оптимизирует под ваше железо (CPU или GPU, Windows/Mac/Linux), запускает локальный API на localhost:11434. Через минуту-две после ввода команды у вас работает нейросеть прямо в терминале.

Без Python-окружения. Без CUDA. Без чтения GitHub README на 3000 строк.

Ещё Ollama поднимает совместимый с OpenAI API - это значит, что любой инструмент, который умеет работать с ChatGPT API, можно перенацелить на локальную модель. Просто поменять api.openai.com на localhost:11434.

Ollama скачать и установить: пошагово для Windows, Mac и Linux

Официальные ссылки и команды по платформам

Обновлено 24.10.2026 по странице ollama.com/download и документации Ollama. Скачивайте Ollama только с ollama.com или со страницы релизов на GitHub.

| Платформа | Как установить | Требования по документации | |---|---|---| | Windows | OllamaSetup.exe или в PowerShell: irm https://ollama.com/install.ps1 \| iex | Windows 10 22H2 или новее; права администратора не нужны; минимум 4 ГБ на диске под саму программу; для NVIDIA драйвер 551.61 или новее | | macOS | Ollama.dmg, перетащить в «Программы», или curl -fsSL https://ollama.com/install.sh \| sh | macOS 14 Sonoma или новее; Apple M-серии с CPU и GPU, Intel-Mac только на CPU | | Linux | curl -fsSL https://ollama.com/install.sh \| sh | Ручная установка архивом и настройка systemd описаны в документации для Linux |

Модели занимают отдельное место: документация предупреждает, что под них может понадобиться от десятков до сотен гигабайт. Папку для моделей на Windows можно перенести переменной окружения OLLAMA_MODELS (документация для Windows).

Лучшие модели для русского языка

Русский - не первый язык для большинства открытых моделей. Обучающие данные преимущественно английские, поэтому качество сильно разнится.

Vikhr-Nemo - специально дообученная на русском модель от российских исследователей. Она лучше держит стиль и падежи, хуже справляется с кодом и английскими задачами. Qwen2.5 от Alibaba обучалась на большом корпусе русских текстов - для смешанных задач (и код, и русский текст) это лучший выбор.

Llama от Meta - хороша для английского, русский понимает, но пишет заметно хуже. Если твои задачи на русском - начинайте с Qwen2.5.

Актуальные модели в библиотеке Ollama на 24.10.2026

Обновлено 24.10.2026. Размеры взяты со страниц моделей в библиотеке Ollama: это объём скачиваемого файла, оперативной или видеопамяти нужно не меньше, плюс запас под контекст. Поддержку русского языка страницы этих моделей отдельно не заявляют, в оценки ниже они не входят.

| Модель | Теги и размер файла | Контекст | Команда | |---|---|---|---| | Qwen3.8 | 27b: 18 ГБ (есть вариант 27b-mlx) | 256K | ollama run qwen3.8 | | Gemma 4 | e2b: 4,6-7,5 ГБ; e4b: 6,6-9,5 ГБ; 12b: 7,7-8,0 ГБ; 26b: 16-19 ГБ; 31b: 19-20 ГБ | 128K у e2b и e4b, 256K у остальных | ollama run gemma4:12b | | Qwen3.5 | 0.8b: 1,2-1,3 ГБ; 2b: 2,7-3,1 ГБ; 4b: 3,3-4,0 ГБ; 9b: 6,6-7,6 ГБ; 27b: 17-20 ГБ | 256K | ollama run qwen3.5:4b | | Nemotron 3.5 Bolt | e4b: 7,2-7,9 ГБ; основная версия 74B (9B активных): 25 ГБ | 128K у e4b, до 256K у 74B | ollama run nemotron-3.5-bolt:e4b |

Nemotron 3.5 Bolt 74B, по описанию в релизе Ollama v0.40.5 (14.10.2026), рассчитана на видеокарту NVIDIA с 24 ГБ памяти, а на Apple Silicon страница модели её пока не поддерживает. Версия e4b собрана NVIDIA на основе Gemma 4 E4B и работает на Windows, Linux и Apple Silicon. Старшая Nemotron 3.5 Super (120B, контекст до 1M) весит 80-90 ГБ и для домашнего ПК слишком тяжёлая.

Российские открытые модели: что можно запустить дома

Проверено по карточкам на Hugging Face 24.10.2026.

• YandexGPT-5-Lite-8B-instruct-GGUF: файл Q4_K_M 4,9 ГБ, языки русский и английский. Команда из карточки: ollama run yandex/YandexGPT-5-Lite-8B-instruct-GGUF. Лицензия собственная: коммерческое использование разрешено, но после 10 млн выходных токенов в месяц нужно связаться с Яндексом. Шаблон диалога нестандартный, поэтому интерактивный режим Яндекс советует только для знакомства с моделью.
• GigaChat 3.1 Lightning от Сбера: MoE на 10B параметров, из них 1,8B активных, лицензия MIT, языки русский и английский, файл Q4_K_M 6,5 ГБ. Карточка даёт инструкцию для llama.cpp; в библиотеке Ollama на 24.10.2026 есть только загрузки сообщества.
• GigaChat 3.5 (432B, 28B активных, ai-sage на Hugging Face, версия Reasoning обновлена 10.09.2026): даже сжатый файл Q4_K_M занимает около 262 ГБ, для домашнего компьютера это нереально.

Топ-5 моделей на русском языке для Ollama в 2026

Сравниваю по трём осям: качество русской письменной речи (орфография, падежи, связность), скорость на среднем железе и универсальность. Данные на основе тестирования перевода, пересказа, написания текста и ответов на вопросы.

Оценки в этом блоке авторские, сделаны в мае 2026 на моделях того времени. Qwen3.8 и Gemma 4 в шкалу пока не входят, их размеры и команды есть в таблице выше.

Qwen2.5:14b - лучший результат для смешанных задач: написание текстов, код, перевод, ответы на вопросы. Alibaba обучила модель на большом русском корпусе - держит падежи, понимает контекст, не переходит в транслит. Нужно 12+ ГБ RAM.

Vikhr-Nemo:12b - специализированная модель от Vikhrmodels. Дообучена именно для русского, поэтому стиль и грамматика лучше чем у Qwen на чисто текстовых задачах. Слабее справляется с кодом и рассуждениями на английском. Запустить через: ollama run hf.co/bartowski/Vikhr-Nemo-12B-Instruct-R-21-09-24-GGUF (уточнено 24.10.2026: в официальном репозитории Vikhrmodels нет GGUF-файлов, а Ollama запускает с Hugging Face только GGUF, поэтому берём квантизацию сообщества, файл Q4_K_M 7,5 ГБ)

Saiga:7b - российская разработка на базе Llama, дообученная на русских диалогах. Хороша для чат-бота и разговорного стиля, хуже - для аналитических текстов. Подходит для 8 ГБ RAM. Установить: ollama pull ilyagusev/saiga_llama3 (уточнено 24.10.2026: прежний адрес bamburov/saiga-llama3-8b в библиотеке Ollama отдаёт 404)

Mistral-Nemo:12b - французская модель с приличным русским. Не самая сильная по качеству речи, но хорошо понимает инструкции на русском и работает как двуязычный ассистент. Бонус - хорошо знает европейский контекст.

Qwen2.5:7b - компромисс для 8 ГБ RAM. Теряет в качестве по сравнению с 14b, но всё равно обходит Mistral на чисто русских задачах. Стартовая точка для большинства пользователей.

Для каких задач что выбрать:

• Написание текстов и маркетинг → Vikhr-Nemo:12b или Qwen2.5:14b
• Код + русский микс → Qwen2.5:14b или Qwen2.5:7b
• Чат-бот, диалог → Saiga:7b или Qwen2.5:7b
• Слабый ноутбук (8 ГБ) → Qwen2.5:7b или Saiga:7b
• Максимальное качество без ограничений → Qwen2.5:32b (нужно 24+ ГБ)

Железо для запуска: что нужно минимум

Самый частый вопрос - «запустится ли это у меня?». Простая таблица по размерам моделей.

Правило большого пальца: размер файла модели в ГБ ≈ (параметры × 0.65) для Q4-квантизации. Модель 7B займёт ~4.7 ГБ, 14B - ~9.3 ГБ. Если RAM хватает впритык - лучше взять модель меньше и получить нормальную скорость, чем ждать по 30 секунд на каждый ответ.

Mac M-серия - отдельная история. Unified memory там работает как VRAM, поэтому M2 Pro с 16 ГБ разгоняет 7B-модель до 40–60 токенов в секунду без внешнего GPU. Если выбираете между дешёвым Windows-ПК с 16 ГБ RAM и Mac Mini M4 - для локального ИИ Mac выгоднее.

Ollama на Mac: MLX по умолчанию с версии 0.40

С релиза Ollama v0.40.0 (25.09.2026) на Apple Silicon модели, которые поддерживает MLX (фреймворк Apple для машинного обучения), запускаются на MLX автоматически. В релизе перечислены qwen3.8, gemma4, qwen3.6 и qwen3.5. В библиотеке у таких моделей есть отдельные теги с суффиксом -mlx, например qwen3.8:27b-mlx (18 ГБ) или gemma4:12b-mlx (7,7 ГБ). Требования к самой программе по документации: macOS 14 Sonoma или новее, GPU используется только на чипах M-серии.

На Windows с обычным процессором без видеокарты всё тоже работает - просто медленно. 5–10 токенов в секунду это примерно чтение вслух. Для коротких задач терпимо, для длинных текстов - утомляет.

Локальный ИИ без цензуры - что это на самом деле

Когда люди ищут «локальный ии без цензуры» (166 запросов в месяц по Wordstat), они обычно имеют в виду не то, что звучит на первый взгляд.

ChatGPT и Claude добавляют корпоративный фильтр поверх модели. Это системный промт, который инструктирует модель отказывать на определённые темы, добавлять оговорки «проконсультируйтесь с врачом/юристом», избегать конкретики в чувствительных областях. Иногда это разумно, иногда - просто раздражает.

Локальная модель без системного промта ведёт себя иначе: отвечает прямее, без ритуальных предупреждений, конкретнее по медицинским и юридическим вопросам. Если вы просите описать симптомы болезни для написания романа - она просто описывает, без «это не медицинская консультация».

Это не означает, что модель «поможет сделать что угодно». Открытые модели всё равно обучены на человеческих ценностях и откажут на откровенно деструктивные запросы. Разница - в степени корпоративной осторожности, не в готовности нарушать законы.

Ollama + Claude Code и Hermes: как подключить локальную модель

Если ты уже используешь Claude Code или читал про Hermes Agent - есть способ запустить локальную модель через Ollama как замену или дополнение к облачному ИИ.

Смысл в том, что Ollama поднимает OpenAI-совместимый API на localhost:11434. Любой инструмент, который умеет работать с GPT-4 через API, можно перенацелить на локальную модель - просто изменить базовый URL.

Обновление 24.10.2026. Порядок подключения Claude Code описан в документации Ollama, команда ollama launch claude работает и с локальными, и с облачными моделями. На странице Qwen3.8 в библиотеке есть и готовая команда для Hermes Agent: ollama launch hermes --model qwen3.8. С версии 0.34.0 (05.09.2026) модели Ollama можно подключить к ChatGPT Desktop, настройка делается из приложения Ollama на macOS.

Что можно автоматизировать с локальным ИИ-агентом

Через API на localhost:11434 Ollama подключается к другим инструментам - не только к чату.

AnythingLLM - ещё один вариант. Это десктопное приложение с GUI, которое берёт Ollama как бэкенд, добавляет RAG, историю чатов, агентов. Установить проще, чем настраивать всё вручную.

Сравнение: Ollama vs ChatGPT vs Claude

Мой честный вывод: для большинства задач ChatGPT и Claude лучше, потому что там более сильные модели и не нужно возиться с железом. Для конфиденциальных задач, работы без сети и экспериментов - Ollama выигрывает.

Ollama и ChatGPT не конкуренты - они для разных ситуаций.

Что нового в Ollama: сентябрь-октябрь 2026

Даты по публикации релизов на GitHub, проверено 24.10.2026. Версии выходят каждые несколько дней, номер в программе у вас может быть новее.

| Дата | Версия | Что изменилось | |---|---|---| | 05.09.2026 | v0.34.0 | Модели Ollama подключаются к ChatGPT Desktop (настройка из приложения на macOS) | | 25.09.2026 | v0.40.0 | На Apple Silicon поддерживаемые модели по умолчанию работают на MLX | | 28.09.2026 | v0.35.0 | «Модели решений» через эндпоинт /v1/systemone: в ответе выбор и вероятности вместо текста, подходят для классификации заявок | | 08.10.2026 | v0.40.2 | Модели из старых версий фоново конвертируются при первом запуске, оригинал хранится как резервная копия | | 14.10.2026 | v0.40.5 | NVIDIA Nemotron 3.5 Super (120B, 12B активных, контекст до 1M) и Nemotron 3.5 Bolt (74B, 9B активных) | | 21.10.2026 | v0.40.8 | Flint от Recursive для агентного программирования: 40B MoE, около 2,5B активных, лицензия Apache 2.0, контекст 262K; сначала только macOS | | 22.10.2026 | v0.40.9 | Flint заработал на Linux и Windows; синтез речи Phonon на Apple Silicon через /v1/audio/speech | | 23.10.2026 | v0.40.10 | Nemotron 3.5 Bolt E4B на базе Gemma 4, контекст 128K |

Если после обновления до 0.40.x диск заметно заполнился, причина в резервных копиях из v0.40.2. Разработчики обещают удалять их автоматически в следующих релизах. Вручную это делается командой из заметок к релизу (нужна утилита jq; после неё откат на версию старше 0.40 потребует заново скачать модели):

curl -s localhost:11434/api/tags | jq -r '.models[].name' | while read -r m; do
  curl -s localhost:11434/api/show -d "{\"model\":\"$m\"}" | jq -r \
    'select(any(.manifests[]?; .runner == "llamacpp")) | .manifests[] | select(.runner == "ggml") | .digest'
done | sort -u | xargs -n1 ollama rm

Ollama download на Windows: частые ошибки и как их обойти

Скачать и установить Ollama на Windows занимает 3 минуты. Запустить первую нейросеть без ошибок - другой вопрос. Вот что ломается у 8 из 10 новичков.

Антивирус блокирует OllamaSetup.exe. Windows Defender иногда помечает установщик как подозрительный. Решение: временно выключить защиту в реальном времени, установить Ollama, снова включить. Файл чистый - это ложное срабатывание на малоизвестный бинарник.

Модель загрузилась, но команда ollama не найдена. Закройте и снова откройте PowerShell после установки - переменные PATH обновляются только в новой сессии. Если не помогло, перезагрузите компьютер.

Ответы приходят по 5 слов в минуту. Ollama на CPU без видеокарты выдаёт 5-15 токенов в секунду - это норма. Ускорить без замены железа можно, взяв модель меньше: qwen2.5:3b вместо 7b работает в 3 раза быстрее при схожем качестве русского языка. Если есть дискретная видеокарта NVIDIA - установите CUDA-драйверы, Ollama автоматически переключится на GPU.

Нет интернета - нейросеть всё равно работает. Главный сценарий: скачали модель один раз дома, дальше ИИ без интернета доступен в самолёте, на даче, в командировке. Ollama не проверяет лицензию онлайн и не шлёт телеметрию.

Какой вариант подходит вам

Если хотите пойти дальше локального чата и запустить ИИ-агента, который работает по расписанию и помнит контекст между сессиями - читайте гайд по Hermes Agent: ИИ с постоянной памятью, скиллами и cron.

FAQ

Ollama что это за программа? Менеджер для запуска языковых моделей локально. Работает на Windows, Mac, Linux. Берёт на себя скачивание, оптимизацию и запуск модели - вам нужно только написать одну команду в терминале. Бесплатна, с открытым кодом.

Как запустить ИИ без интернета бесплатно? Установить Ollama, скачать модель (один раз, пока есть интернет), дальше работает полностью офлайн. Qwen2.5:3b - самый лёгкий вариант, работает на любом ноутбуке с 8 ГБ RAM.

Что делать если ИИ отвечает медленно? Медленно - это нормально на CPU без GPU. 5–15 токенов в секунду. Ускорить без замены железа можно взяв модель меньшего размера (3b вместо 7b) или включив GPU offloading если есть дискретная видеокарта.

Ollama видит мои файлы на компьютере? Нет. Ollama - это просто процесс, который принимает текст на вход и возвращает текст на выход. Она не имеет доступа к твоей файловой системе, если ты сам не отправляешь содержимое файлов в запросе.