Нейросеть на своем сервере: когда это дешевле и что для этого нужно

За последний год ко мне трижды приходили с одним вопросом: выгодно ли поднимать нейросеть на своем сервере вместо того, чтобы каждый месяц платить за токены Claude или GPT. Однозначного ответа нет, он зависит от объёма запросов, требований к приватности данных и от того, готовы ли вы держать человека, который будет следить за GPU-сервером по ночам. В статье считаю пороги, после которых свой сервер начинает окупаться, разбираю какое железо реально нужно и сколько стоит его обслуживание на практике.

Когда своя нейросеть на сервере выгоднее облачного API

Для прототипа или бота с сотней обращений в день никакой экономии не будет. Запрос к Claude Sonnet или младшей модели OpenAI стоит доли рубля, а аренда сервера с видеокартой обходится в фиксированную сумму независимо от того, использует её кто-то в 3 часа ночи или нет.

Экономика меняется, когда счётчик запросов переваливает за десятки и сотни тысяч в месяц. Я считал для одного клиента с чат-ботом поддержки на 400 000 обращений в месяц: при среднем чеке в 0,3-0,5 ₽ за запрос к API счёт на облачные токены выходил в 120 000-200 000 ₽ ежемесячно. Сервер с RTX 4090 под ту же нагрузку с открытой моделью Qwen2.5 32B укладывался в 35 000 ₽ аренды плюс разовая настройка. Окупаемость перехода наступила на втором месяце.

Для интернет-магазинов и маркетплейсов свой сервер часто оправдан для конкретных задач: классификация отзывов, модерация карточек товара, эмбеддинги для поиска по каталогу. Это высокочастотные, но простые по смыслу запросы, где открытая модель на 7-8 млрд параметров справляется не хуже топового API, а считать приходится миллионы обращений в месяц.

Второй сценарий, где своя нейросеть на сервере оправдана даже при небольшом объёме - обработка чувствительных данных: медицинские записи, юридические документы, персональные данные клиентов, которые нельзя передавать за периметр компании ни при каком объёме запросов. Здесь решение продиктовано не экономикой, а требованиями к безопасности и 152-ФЗ.

Какое железо нужно для локальной модели

Главный параметр при выборе железа под локальную модель - видеопамять, а не сама видеокарта по названию. От объёма VRAM зависит, какую модель вы вообще сможете загрузить и в каком квантовании.

На практике я почти всегда беру модели в 4‑битном квантовании GGUF или AWQ, потеря в качестве ответов минимальна, а видеопамяти нужно в 3-4 раза меньше, чем в FP16. Для чат-бота поддержки или RAG-системы с базой знаний этого достаточно, для сложных агентных сценариев с длинными рассуждениями лучше не экономить и брать модель покрупнее.

Кроме видеопамяти важны оперативная память и диск. Модель весом в 20-40 ГБ должна полностью помещаться в оперативную память сервера при загрузке, а на диске под несколько версий моделей и кеш стоит закладывать от 500 ГБ NVMe. При недостатке RAM сервер начинает подкачивать веса с диска, и скорость генерации падает в разы.

Свой сервер против облачного API: во что реально выливаются расходы

Аренда выделенного сервера с RTX 4090 у российских провайдеров вроде Timeweb Cloud или Selectel обходится в 15 000-45 000 ₽ в месяц. Сервер с A100 40GB под 70B-модели у зарубежных площадок вроде RunPod или Lambda Labs стоит от 60 000 до 150 000 ₽ в месяц - это рыночные ориентиры на август 2026 года, у разных провайдеров цена гуляет в зависимости от региона дата-центра и загрузки. Свой физический сервер с покупкой железа окупается только при постоянной круглосуточной нагрузке от полугода и дольше, аренда почти всегда выгоднее на старте.

Покупка своей видеокарты вместо аренды имеет смысл только при постоянной круглосуточной нагрузке на горизонте от года. RTX 4090 в рознице стоит порядка 150 000-200 000 ₽, у профессиональных карт вроде A100 40GB цена доходит до 700 000-900 000 ₽ - это розничные ориентиры на август 2026 года, у поставщиков цена скачет вместе с курсом и наличием на складе. При аренде вы платите за простой ночью и в выходные, зато не рискуете деньгами, если через полгода придётся менять модель на более требовательную к памяти.

Как разворачивают модель на сервере на практике

Порядок действий у меня почти всегда одинаковый.

• Выбираю модель под задачу: Qwen2.5 или Llama 3.1 для общих чат-сценариев, специализированные дообученные модели - для узких доменов вроде юридических или медицинских текстов.
• Квантую модель в GGUF для llama.cpp или Ollama, либо в AWQ для vLLM, если нужна максимальная скорость под нагрузкой.
• Разворачиваю в Docker-контейнере: Ollama для небольших проектов, vLLM с непрерывным батчингом - если нужно держать десятки параллельных запросов.
• Закрываю доступ nginx-прокси с API-ключом, отдаю наружу OpenAI-совместимый эндпоинт.
• Подключаю к тому, что реально шлёт запросы: aiogram-боту, workflow в n8n или бэкенду сервиса.

Для одного проекта я подключал aiogram-бота к локальной модели именно через OpenAI-совместимый эндпоинт vLLM: для сценариев FAQ и первой линии поддержки модель отрабатывает не хуже младшей облачной, а лимита на число токенов в месяц просто нет. В n8n экономия имеет смысл при потоке от 50 000 запросов в месяц, при меньшем объёме возня с нодой HTTP-запроса к своему серверу вместо готовой ноды OpenAI не окупается.

За нагрузкой на GPU и очередью запросов у меня обычно стоит связка Prometheus и Grafana поверх метрик vLLM - это позволяет вовремя заметить, что сервер упирается в потолок по параллельным запросам, и добавить вторую ноду для балансировки нагрузки до того, как это заметят пользователи.

Скрытые расходы, о которых забывают на старте

Сама аренда GPU-сервера - это только часть счёта. Дальше добавляются статьи расходов, которые в расчёт закладывают не всегда.

Электричество, если сервер стоит у вас, а не арендован. RTX 4090 под полной нагрузкой тянет 400-450 Вт, при круглосуточной работе это около 300 кВт·ч в месяц, при тарифе 6 ₽ за кВт·ч выходит порядка 1800 ₽ только на одну видеокарту, без учёта охлаждения серверной.

Амортизация железа. Видеокарты для инференса устаревают за 2-3 года, топовая модель сегодня через два года уже не тянет актуальные версии LLM без даунгрейда квантования.

Обслуживание. Обновления модели, патчи безопасности самого сервера, мониторинг нагрузки GPU, бэкапы конфигурации - кто-то должен этим заниматься на постоянной основе, а не только в день запуска. Техподдержку таких серверов я веду отдельной строкой в проекте, от 15 000 ₽ в месяц, и клиенты, которые сначала хотели сэкономить на этом, обычно возвращаются за подпиской после одного-двух инцидентов с упавшим сервисом.

Резервирование. Если модель работает в проде и на неё завязан бизнес-процесс - обработка заявок, поддержка клиентов, генерация контента - один сервер без резервной ноды означает простой всего сервиса при падении GPU или обновлении драйверов. Резервную ноду обычно поднимают не сразу, а когда нагрузка становится критичной, но закладывать это в бюджет стоит заранее, а не после первого серьёзного простоя.

Когда дешевле остаться на облачном API

Если объём запросов не переваливает за несколько тысяч в день, а задача требует качества рассуждений топовых моделей вроде Claude Opus или GPT‑5, свой сервер только добавит забот без реальной экономии. Открытые модели неплохо справляются с классификацией, извлечением данных и типовыми диалогами, но на сложных многошаговых задачах пока заметно уступают закрытым топовым моделям.

На практике часто выгоднее не выбирать между своим сервером и API, а комбинировать оба варианта. Простые задачи вроде классификации обращения или извлечения данных из формы отдаю локальной модели на своем сервере, а сложные диалоги и нестандартные запросы клиентов переадресую через n8n на Claude API. Такая связка снижает счёт за токены на 60-70% без потери качества там, где оно действительно нужно, и я закладываю её в проекты с самого начала, а не добавляю потом как оптимизацию.

Для большинства проектов с нуля я советую начать с API, посчитать реальный расход токенов за первый месяц работы и только после этого прикидывать, окупится ли переход на свою инфраструктуру. Если разворачивать инфраструктуру самим не хочется, у меня есть отдельное направление на разработку и интеграцию AI-сервисов под ключ, от подбора модели до готового API для вашего продукта.

Частые вопросы

Сколько стоит сервер для локальной нейросети на старте?

Аренда сервера с RTX 4090 у российских провайдеров начинается от 15 000 ₽ в месяц, для 70B-моделей с A100 40GB счёт уходит за 60 000 ₽ в месяц - это рыночные цены на аренду железа, к разработке и настройке они отношения не имеют. Настройку самого стека, квантование модели и API поверх сервера я оцениваю от 50 000 ₽ отдельным проектом.

Можно ли развернуть нейросеть на обычном VPS без видеокарты?

Технически да, через llama.cpp модель в 7-8 млрд параметров запускается и на CPU, но скорость ответа падает до нескольких токенов в секунду - для чат-бота с живыми пользователями это неприемлемо, разве что для фоновой пакетной обработки, где скорость ответа не критична.

Какую модель выбрать для своего сервера?

Для общих чат-сценариев и RAG я обычно беру Qwen2.5 или Llama 3.1, у обеих открытая лицензия, разумные требования к памяти и стабильное качество на русском языке. Для узкого домена вроде юридических текстов или медицины есть смысл смотреть в сторону дообученных версий под конкретную область, но их сначала нужно протестировать на своих данных, а не на бенчмарках.

Безопасно ли хранить на такой нейросети данные клиентов?

Свой сервер как раз решает эту задачу лучше облачного API: данные не покидают периметр компании, что важно для 152-ФЗ и хранения персональных данных на серверах в РФ. Но сам сервер тоже нужно защищать, закрывать доступ по API-ключу, обновлять систему и следить за логами, иначе вместо утечки через стороннего провайдера получите дыру в собственной инфраструктуре.