Локальные нейросети: как запустить ИИ на своём компьютере

Что нужно для запуска нейросети без интернета, сколько видеопамяти требуется и какие модели реально работают на домашнем ПК.

Локальная нейросеть — это модель, которая работает на вашем компьютере, а не на сервере чужой компании. Никто не видит ваши запросы, нет подписки, нет лимитов и нет зависимости от блокировок.

Платить приходится другим: железом, временем на настройку и качеством ответов. Разберём без иллюзий, что реально запустить дома в 2026 году и зачем это нужно.

Подробные инструкции — в разделе «Локальные модели»: требования к VRAM, установка Ollama и LM Studio, сравнение моделей и настройка.

Зачем запускать модель у себя

Приватность. Документы, медицинские данные, коммерческая переписка, исходный код — всё остаётся на диске.

Нет лимитов. Не нужно считать сообщения и токены. Можно гонять одну и ту же задачу сто раз.

Работа без интернета. В самолёте, на даче, в офисе с закрытой сетью.

Предсказуемость. Модель не изменится в один день, как это бывает с облачными сервисами.

Обратная сторона: домашняя модель на 8–12 ГБ видеопамяти заметно слабее бесплатных облачных чатов. Она не заменит ChatGPT, но справится с рутиной.

Что понадобится

Компонент	Минимум	Комфорт
Видеопамять	6 ГБ	12–24 ГБ
Оперативная память	16 ГБ	32 ГБ
Диск	20 ГБ свободно	100 ГБ SSD
Процессор	любой современный	8 ядер и больше

Модель можно запустить и без видеокарты, на процессоре. Это работает, но медленно: ответ на короткий вопрос занимает десятки секунд, а генерация картинки — минуты.

Совет

Ноутбук с интегрированной графикой тоже подойдёт для знакомства. Начните с маленькой модели на 1–3 млрд параметров: она ответит быстро и покажет, нужен ли вам вообще локальный вариант.

Три способа запуска

1. Готовые приложения

Самый простой путь. Программа сама скачивает модели, показывает чат и настройки.

LM Studio — удобный интерфейс для текстовых моделей, есть поиск моделей и профили под ваше железо.
Ollama — консольная программа, которая работает как локальный сервер. Удобна тем, кто хочет подключать модель к своим скриптам.
Jan — открытое приложение в стиле обычного чата.

Ставится за десять минут. Выбираете модель из списка, ждёте загрузки и общаетесь.

2. Специализированные программы

Для картинок — интерфейсы вокруг Stable Diffusion: Automatic1111, ComfyUI, Fooocus. Для расшифровки аудио — Whisper в локальном варианте.

Такие программы гибче, но требуют разобраться с настройками: шаги генерации, размер, сэмплер, контрольные точки.

3. Своими руками

Python, библиотеки для инференса, квантизация, сервер. Нужно, если вы встраиваете модель в продукт. Для личного использования это лишняя работа.

Сколько нужно памяти

Главное правило: объём файла модели примерно равен нужной памяти. Квантованная версия на 4 бита занимает вчетверо меньше, чем исходная.

Размер модели	Память при 4-битной квантизации	Что ждать
1–3 млрд параметров	1–2 ГБ	Простые ответы, пересказ, черновики
7–9 млрд	4–6 ГБ	Нормальный диалог, тексты, код
13–14 млрд	8–10 ГБ	Заметно лучше держит контекст
30–34 млрд	18–22 ГБ	Уровень неплохой облачной модели
70 млрд и больше	40 ГБ и выше	Требует серьёзной видеокарты

Квантование — это сжатие весов модели. При 4 битах качество падает умеренно, при 2 битах — заметно. Для домашнего использования 4–5 бит считаются разумным компромиссом.

Какие модели выбрать

Для текста и кода:

Qwen — сильные модели разного размера, хорошо понимают русский.
Llama — большая экосистема, много готовых сборок.
Mistral — компактные и быстрые.
Gemma — небольшие модели, удобные для слабого железа.

Для картинок:

Stable Diffusion и её производные — гибкость, стили, локальные дообучения.
Flux — качественнее с текстом на изображении, но требовательнее к памяти.

Для аудио и видео: локальные варианты существуют, но требуют много ресурсов. Для начала проще пользоваться облаком.

Заметка

Названия версий и дат выхода у моделей меняются каждые несколько месяцев. Ориентируйтесь не на номер, а на размер и тип квантизации.

Что реально получается на домашнем ПК

Хорошо: переписать текст, сделать выжимку, ответить на вопрос по документу, сгенерировать код функции, расшифровать запись, обработать фото, убрать фон, придумать десять вариантов заголовка.

Средне: длинные тексты с сохранением фактов, сложные рассуждения, работа с таблицами.

Плохо: задачи, где нужны свежие данные из интернета, точные расчёты, длинный контекст на сотни страниц.

Локальная модель не знает новостей и не умеет искать. Она отвечает из того, что было в обучающих данных. Всё, что требует актуальности, — только облако с поиском.

Безопасность и право

Скачивайте модели с официальных страниц и репозиториев. Файл модели — это код в широком смысле, подделки бывают.
Проверяйте лицензию: не все модели можно использовать в коммерческих продуктах.
Локальность не отменяет ответственности за результат: ошибки модели остаются вашими ошибками.
Если обрабатываете персональные данные, локальный запуск как раз снижает риски — данные не покидают ваш компьютер.

Стоит ли начинать

Начните, если хотя бы один пункт про вас:

работаете с конфиденциальными документами;
хотите экспериментировать без подписок;
любите разбираться в технике;
нужен офлайн-инструмент для рутины.

Не начинайте, если нужен максимально качественный ответ на сложные вопросы и вы не готовы возиться с настройками. В этом случае облачные сервисы из каталога дадут больше за меньшие усилия.

Итог

Локальные нейросети перестали быть развлечением для энтузиастов. Модель на 8 ГБ видеопамяти закрывает заметную часть ежедневных задач и работает без интернета.

Начните с готового приложения и маленькой модели. Если поймёте, что вам не хватает качества, — переходите на модель крупнее или вернитесь к облаку.

Дальше по шагам: железо и VRAM, запуск модели, сравнение моделей и настройка.