Своя ChatGPT и DeepSeek на сервере: сколько стоит

Запрос «своя ChatGPT» звучит на первый взгляд как каприз, но за ним обычно стоит конкретная бизнес-задача: получить помощника уровня ChatGPT или DeepSeek так, чтобы переписка, документы и коммерческая тайна компании не уходили на серверы стороннего провайдера. Технически это не копия продукта OpenAI, а развёртывание открытой модели (DeepSeek, Llama, Qwen и другие) на собственном сервере с GPU и привычным чат-интерфейсом. Разбираем, зачем это нужно бизнесу, какое железо потребуется и какой порядок затрат ждать на разных уровнях внедрения.

Зачем бизнесу локальная нейросеть, а не облачный ChatGPT

У локального развёртывания четыре практические причины, и все они бизнес-ориентированные, а не про моду на ИИ.

Приватность и коммерческая тайна. Переписка с облачным ассистентом, договоры, финансовые расчёты и код, которые сотрудники вставляют в промпт, покидают периметр компании и оседают на инфраструктуре стороннего провайдера. Для бизнеса с NDA или чувствительными данными клиентов это риск вне зависимости от политики конфиденциальности сервиса. Локальный сервер снимает вопрос: данные не покидают инфраструктуру компании.

Нет подписок и лимитов. Облачные тарифы считают по числу пользователей и объёму запросов: чем больше сотрудников подключают к ассистенту, тем выше счёт, и он растёт вместе со штатом. Свой сервер оплачивается один раз, плюс электричество и обслуживание, а число пользователей на стоимость владения почти не влияет.

Работа без интернета и без риска блокировок. Локальная модель работает в сети предприятия и не зависит от доступности внешнего сервиса, региональных ограничений или смены условий оплаты у зарубежного провайдера. Для компаний, где ИИ уже встроен в рабочие процессы, это вопрос непрерывности бизнеса, а не удобства.

Что физически нужно: сервер с GPU

Открытый GPU-сервер: ускорители, накопители, охлаждение и кабели

Технически «своя нейросеть» — это сервер с одной или несколькими видеокартами, а не обычный офисный сервер для файлов и документов. Модель считается на GPU, и ключевой параметр здесь не частота процессора, а объём видеопамяти (VRAM): он определяет, какого размера модель поместится и с каким контекстом она сможет работать. Помимо GPU серверу нужны серверный процессор и материнская плата под несколько карт, память с запасом (от 128 ГБ и выше, желательно ECC/REG), быстрый NVMe-накопитель под модель и историю диалогов, а также питание и охлаждение под видеокарты, которые потребляют по нескольку сотен ватт каждая.

Как считать нужный объём VRAM под конкретную модель и число пользователей, подробно разобрано в статье про сервер для нейросетей и в материале как выбрать видеокарту для ИИ: для бизнеса важно, что от этого расчёта прямо зависит смета проекта.

Какую модель разворачивать: DeepSeek, Llama и другие открытые LLM

Важная оговорка: сам продукт ChatGPT от OpenAI развернуть на своём сервере нельзя, это закрытый облачный сервис. Но есть широкий класс открытых моделей сопоставимого уровня, которые можно скачать и запустить локально: DeepSeek, в том числе версии под меньший объём VRAM, Llama, Qwen и другие. Поверх такой модели ставится чат-интерфейс, похожий на привычный ChatGPT и по виду, и по опыту использования: сотрудник открывает окно чата внутри локальной сети и работает с моделью так же, как с облачным ассистентом, только без выхода данных за периметр компании.

Для экономии видеопамяти модели запускают в квантованном виде (INT8, INT4): это снижает требования к GPU в 2-4 раза почти без потери качества для большинства бизнес-задач, будь то работа с документами, поддержка клиентов или поиск по базе знаний. Чем выше нужная точность и длиннее контекст, тем больше VRAM и тем выше уровень сервера потребуется.

Три уровня внедрения: пробный, для отдела, для всей компании

Подбор сервера удобнее вести не «по бюджету», а по уровню внедрения: от пробного проекта на отдел до рабочего инструмента для всей компании. Три ориентировочных уровня — в таблице ниже, точную конфигурацию стоит считать под число пользователей и объём документов.

Сценарий	Примерная конфигурация	Для чего
Тест / пилот	1 профессиональная GPU, 24 ГБ VRAM, 64-128 ГБ ОЗУ	Проверка гипотезы на модели 7-13B: чат-помощник и поиск по документам для 5-15 сотрудников одного отдела
Для отдела	1-2 GPU, 24-80 ГБ VRAM на карту, 128-256 ГБ ECC-памяти	Модель 13-34B в постоянной эксплуатации, до 30-50 одновременных пользователей, интеграция с внутренними системами
Для всей компании	Мульти-GPU сервер, несколько карт от 80 ГБ (A100/H100), 256 ГБ+ ECC/REG памяти	Модели от 70B и крупные MoE-архитектуры уровня DeepSeek, десятки-сотни пользователей, высокая параллельная нагрузка

Порядок затрат: сколько стоит железо по уровням

Три уровня локальной ИИ-инфраструктуры: от рабочей станции до стойки

Точную смету по телефону не назовёт никто добросовестный: цена зависит от доступности конкретных GPU, курса и конфигурации под задачу. Но порядок величин по уровням прикинуть можно.

Пробный уровень с одной профессиональной видеокартой обычно укладывается в стоимость нескольких хороших рабочих станций: самый доступный вход в тему, и с него разумно начинать, если бизнес раньше не работал с локальными нейросетями. Уровень отдела с одной-двумя картами старшего класса и увеличенным объёмом памяти обойдётся уже в несколько раз дороже пробного: это плановая инвестиция, сопоставимая с оснащением серверной под другую тяжёлую задачу вроде виртуализации или СХД.

Уровень всей компании с мульти-GPU сервером на картах класса A100/H100 и NVLink уходит в разряд крупных капитальных затрат: топовые индустриальные конфигурации для обучения крупнейших моделей могут стоить порядка нескольких десятков миллионов рублей и выше, и смета здесь всегда считается под конкретный проект. Актуальные конфигурации по каждому уровню, включая мульти-GPU серверы под DeepSeek-класс задач, собраны в разделе серверов для искусственного интеллекта.

Окупаемость против облачных API-подписок

Сравнение стоит вести не «сервер против нуля», а «сервер против подписки», потому что бесплатной альтернативы для бизнеса по сути нет. Облачные LLM-сервисы берут оплату за место пользователя и за объём обращений, и оба показателя растут вместе с командой. Год подписки для команды в 20-30 активных пользователей с учётом роста тарифов на практике нередко приближается по сумме к стоимости собственного сервера пробного уровня или уровня отдела, а дальше подписка продолжает капать ежемесячно, тогда как сервер куплен один раз.

У собственного сервера предсказуемая структура расходов: покупка, электричество, минимальное обслуживание и опциональный апгрейд GPU через несколько лет. У подписки расходы растут вместе с успехом внедрения: чем активнее сотрудники пользуются ассистентом, тем выше счёт. Для бизнеса с постоянной нагрузкой на ИИ это обычно и есть точка, где свой сервер окупается быстрее, чем кажется на старте, особенно если учитывать не только платежи за подписку, но и риск утечки данных, который она полностью не снимает.

Эксплуатация: что учитывать кроме покупки сервера

Покупка сервера не закрывает вопрос целиком, это стоит понимать до, а не после внедрения.

Электричество и охлаждение. Видеокарты уровня A100/H100 потребляют по нескольку сотен ватт каждая, и сервер с несколькими такими картами ощутимо нагружает электросеть и охлаждение серверной. Это нужно закладывать в расчёт помещения, а не только в цену железа.

Обслуживание и компетенции. Развёртывание модели, настройка чат-интерфейса и интеграция с внутренними системами (почтой, базой знаний, CRM) требуют технической компетенции: штатного специалиста либо разового проекта с подрядчиком, дальше система работает автономно.

Обновление моделей. Открытые модели вроде DeepSeek регулярно выходят в новых версиях с более качественными ответами. Сервер с запасом по VRAM позволяет заменить модель на новую без замены железа, тогда как сервер впритык быстрее упирается в потолок.

С чего начать: чеклист

Сформулируйте задачу: что именно должен делать ассистент (поддержка клиентов, поиск по документам, помощь разработчикам) и для скольких сотрудников.
Оцените объём и чувствительность данных, которые сейчас уходят в облачные сервисы: это и аргумент для приватности, и ориентир для выбора уровня внедрения.
Выберите модель под задачу (DeepSeek, Llama, Qwen и другие) и определите, нужен ли полный размер весов или достаточно квантованной версии.
Посчитайте нужный объём VRAM с запасом под контекст и рост числа пользователей, а не впритык под сегодняшний пилот.
Подберите конфигурацию сервера (GPU, память, накопители, питание) под нужный уровень: пробный, отдел или вся компания.
Заложите электричество, охлаждение и обслуживание в общий бюджет проекта, а не только стоимость железа.
Начните с пилота на одном отделе, прежде чем масштабировать решение на всю компанию.

HUANANZHI — официальный дистрибьютор серверного оборудования в России, GPU-серверы для локальных нейросетей мы подбираем и тестируем перед отправкой. В каталоге — конфигурации всех трёх уровней: от одной видеокарты до мульти-GPU серверов на A100/H100 для DeepSeek-класса моделей, смотрите раздел серверов для искусственного интеллекта. Опишите задачу: число пользователей, чувствительность данных, желаемую модель, и мы подберём конфигурацию, выставим счёт и организуем доставку по России с гарантией.

Совет на практике

Не берите сервер впритык под сегодняшний пилот: если пилот на одном отделе окажется удачным, дешевле сразу закладывать запас по VRAM и памяти на рост, чем через полгода покупать второй сервер и решать, как объединить их под общую нагрузку. Разница в цене между конфигурацией впритык и конфигурацией с запасом обычно меньше, чем стоимость повторного внедрения с нуля.

Конфигурации под три уровня внедрения

Бюджеты — ориентир на железо в рублях без НДС на начало 2025 года. GPU — самая изменчивая часть сметы: цена RTX 4090 и L40S зависит от курса и канала поставки.

Уровень	GPU	VRAM	Платформа	Модели	Бюджет железа	Потребление
Пробный, 1–5 пользователей	1× RTX 4090 24 ГБ или RTX 6000 Ada 48 ГБ	24–48 ГБ	Ryzen 9 / EPYC 4004, 64–128 ГБ RAM, 2 ТБ NVMe	Llama 3.1 8B, Qwen2.5-14B, DeepSeek-R1-Distill-Qwen-14B в Q4/Q5	600–900 тыс ₽ (4090); 1,2–1,5 млн ₽ (6000 Ada)	0,6–0,9 кВт
Отдел, 10–30 пользователей	2× L40S 48 ГБ или 2× RTX 6000 Ada	96 ГБ	EPYC 9354 / Xeon Gold, 256–512 ГБ RAM, 4–8 ТБ NVMe RAID	Llama 3.3 70B Q4, Qwen2.5-72B Q4, DeepSeek-R1-Distill-Llama-70B	2,5–4 млн ₽	1,5–2,5 кВт
Компания, 50–200+	4× H100 80 ГБ или 8× H100/H200 в HGX	320–1128 ГБ	2× EPYC 9654, 1–2 ТБ RAM, 8–16 ТБ NVMe	DeepSeek-V3/R1 671B в FP8 или Q4, Llama 3.1 405B	30–60 млн ₽ и выше	6–10 кВт

DeepSeek-V3 671B в FP8 занимает около 700 ГБ под веса, поэтому 8× H100 80 ГБ (640 ГБ) хватает только с Q4 или при коротком контексте. Надёжнее 8× H200 141 ГБ. Для 70B в Q4 достаточно одной L40S 48 ГБ, но KV-кэш на 10 одновременных сессий потребует второй карты.

Open-source LLM: VRAM и скорость

Формула VRAM: вес модели + KV-кэш + запас 10–15%. Вес = параметры × байт на параметр (FP16 — 2, INT8 — 1, Q4 — около 0,5). KV-кэш = 2 × слои × KV-головы × head_dim × контекст × батч × 2 байта. Для Llama 3.1 8B (32 слоя, 8 KV-голов, head_dim 128) на 8192 токенов это примерно 1 ГБ на поток.

Модель	Параметры	Квант	VRAM весов	С KV, 8K	1× RTX 4090	1× H100	Лицензия
Llama 3.1 8B	8B	Q4	~5 ГБ	~6 ГБ	90–120 т/с	—	Llama Community
DeepSeek-R1-Distill-Qwen-14B	14B	Q4	~9 ГБ	~11 ГБ	50–70 т/с	150–200 т/с	MIT
Mistral Small 24B	24B	Q4	~14 ГБ	~17 ГБ	35–50 т/с	120–160 т/с	Apache 2.0
Qwen2.5-32B	32B	Q4	~19 ГБ	~22 ГБ	25–35 т/с	80–110 т/с	Apache 2.0
Llama 3.3 70B	70B	Q4	~40 ГБ	~43 ГБ	10–14 т/с (2×4090)	40–60 т/с	Llama Community
DeepSeek-V3 671B	671B	FP8	~700 ГБ	—	не влезает	20–40 т/с на батч	DeepSeek License

Для одного пользователя критична задержка первого токена, для отдела — суммарный throughput. vLLM на H100 при батче 32 выдаёт в 5–10 раз больше токенов в секунду, чем одиночный Ollama. Лицензия Llama Community бесплатна до 700 млн MAU, Qwen2.5 до 32B — Apache 2.0, 72B — отдельная Qwen License.

Софт: Ollama, vLLM, Open WebUI

Ollama (лицензия MIT) ставится одной командой, работает с GGUF-квантами и закрывает пилот на 1–3 пользователя. Слабые места — нет continuous batching и слабая параллельность, поэтому при 10+ одновременных запросах throughput падает.

vLLM (Apache 2.0) — стандарт продакшена: PagedAttention, continuous batching, OpenAI-совместимый API. На одной L40S 48 ГБ держит 10–30 параллельных сессий с 70B в Q4. Альтернативы: TGI (Apache 2.0) и SGLang (Apache 2.0) — последний быстрее на длинном контексте и RAG-сценариях.

Open WebUI — чат-интерфейс с RAG, правами и историей. Лицензия Open WebUI License на базе BSD-3: при более 50 пользователях или перепродаже нельзя убирать брендинг без коммерческого договора. Альтернативы: LibreChat (MIT), AnythingLLM (MIT).

RAG: Qdrant (Apache 2.0), pgvector, Chroma. Эмбеддинги — bge-m3 или multilingual-e5.
Интеграции: любой OpenAI-совместимый endpoint подключается к 1С, Bitrix24, Telegram-боту.
Лицензии моделей: DeepSeek-R1 — MIT, DeepSeek-V3 — собственная с ограничением на дистилляцию, Mistral Small — Apache 2.0.

TCO: электричество, шум, обслуживание

Электричество считается как P (кВт) × 8760 ч × тариф. Сервер 1,5 кВт при 6,5 ₽/кВт·ч — 85 тыс ₽/год, 6 кВт — 342 тыс ₽/год. Охлаждение добавляет 30–50% (PUE 1,3–1,5), то есть ещё 25–170 тыс ₽/год.

Шум: 4U-сервер с GPU даёт 65–80 дБА. В опенспейс его не поставить — нужна серверная или изолированная комната с приточной вентиляцией. Бытовая розетка 16 А не тянет 2+ кВт долговременно: нужна отдельная линия 32 А и ИБП.

Обслуживание — 5–10% стоимости железа в год: замена вентиляторов, термопаста на GPU, прошивки BMC, мониторинг температур и ECC-ошибок. Гарантия на GPU — 3 года, но поставки H100 идут с ограничениями по каналам.

Бэкап: модели 100–700 ГБ, датасеты и индексы — на отдельный NAS по правилу 3-2-1. Безопасность: VLAN, VPN, RBAC, логирование промптов, DLP на выгрузку, своевременное обновление vLLM/Ollama из-за CVE.

Пример TCO на 3 года для отдела: железо 3 млн ₽, электричество 255 тыс ₽, охлаждение 100 тыс ₽, обслуживание 900 тыс ₽, софт 0 ₽ — итого около 4,25 млн ₽. Для 20 пользователей это примерно 5 900 ₽/мес на человека без учёта экономии рабочих часов.

Частые ошибки

Ждут от локальной модели буквально продукта OpenAI и разочаровываются, хотя задача решается открытой моделью сопоставимого уровня с тем же чат-интерфейсом.
Считают бюджет только на GPU, забывая про электричество, охлаждение и обслуживание, из-за чего реальная стоимость владения оказывается выше сметы.
Берут конфигурацию впритык под пилот на 5-10 человек и упираются в потолок VRAM, как только проект масштабируется на весь отдел или компанию.
Сравнивают стоимость сервера с одним месяцем облачной подписки вместо нескольких лет эксплуатации, из-за чего вывод об окупаемости получается искажённым.

Частые вопросы

Можно ли реально развернуть ChatGPT на своём сервере?

Сам продукт ChatGPT от OpenAI локально развернуть нельзя, это закрытый облачный сервис. На своём сервере разворачивают открытые модели сопоставимого уровня (DeepSeek, Llama, Qwen и другие) с привычным чат-интерфейсом, и для сотрудников по опыту использования это выглядит как своя ChatGPT.

Сколько стоит сервер для локального DeepSeek?

Зависит от уровня внедрения. Пробная конфигурация с одной профессиональной видеокартой обходится в разы дешевле мульти-GPU сервера на картах класса A100/H100 для всей компании. Точную смету считают под число пользователей и размер модели.

Что выгоднее для бизнеса: свой сервер или подписка на облачный ИИ?

При постоянной нагрузке и растущем числе пользователей свой сервер обычно выгоднее в пересчёте на несколько лет: он оплачивается один раз, тогда как подписка растёт вместе со штатом. Дополнительный плюс: данные не покидают инфраструктуру компании.

Нужен ли отдельный специалист для обслуживания локальной нейросети?

Для настройки модели, чат-интерфейса и интеграции с внутренними системами нужна техническая компетенция: штатный специалист либо разовый проект с подрядчиком. После настройки система обычно работает автономно.