GPU-сервер: собрать свой или арендовать облако

Вопрос «арендовать GPU в облаке или купить свой сервер» встаёт перед каждой командой, которая начинает регулярно считать на видеокартах: обучать модели, держать инференс, разворачивать RAG-систему для клиентов. Единого ответа нет, но экономика вполне понятная: облако выигрывает на коротких и непредсказуемых нагрузках, а свой сервер начинает экономить деньги, когда GPU загружены стабильно месяцами. Ниже — разбор по критериям и практический чек-лист по сценариям.

Что именно сравниваем: аренда GPU-инстанса и свой сервер

Аренда в облаке — это оплата вычислительной мощности по часам или месяцам у провайдера без владения оборудованием: закупка железа, электричество, охлаждение, амортизация — забота провайдера, зашитая в тариф. Модель расходов операционная, но каждый час оплачивается с учётом его маржи и издержек.

Свой сервер — это покупка оборудования в собственность и размещение у себя или в дата-центре по договору colocation. Модель расходов капитальная: основная сумма платится один раз, а дальше только электричество, место в стойке и обслуживание. После точки окупаемости час использования выходит в разы дешевле аренды. Экономику стоит считать под конкретную конфигурацию: какие GPU и сколько VRAM нужно под вашу нагрузку, разобрано в статье Сервер для нейросетей: какие GPU нужны для ИИ.

Когда выгоднее аренда: старт, пилоты, пиковые нагрузки

Аренда логична, когда неясно, окупится ли направление в принципе, или нагрузка заведомо неровная:

Пилот и проверка гипотезы. Пока не понятно, взлетит ли продукт на базе нейросети, вкладывать капитал в железо преждевременно: дешевле арендовать GPU на недели и уже потом решать, покупать сервер или нет.
Разовое или редкое обучение. Если дообучение идёт раз в квартал на несколько дней, а остальное время GPU не нужен, покупать карту, которая простаивает почти весь год, невыгодно.
Пиковые и непредсказуемые всплески. Сезонный рост нагрузки, разовая обработка данных, демонстрация инвесторам — под такие задачи проще на короткий срок докупить мощность в облаке.
Нет капитала или команды под эксплуатацию. Аренда снимает необходимость разбираться в подборе конфигурации и обслуживании сервера, это плюс для небольшой команды без своего DevOps.

Дополнительный плюс аренды — мгновенный доступ к новому поколению GPU без риска устаревания собственного железа.

Когда выгоднее свой сервер: постоянная нагрузка

Стойка с GPU-серверами в локальной серверной под постоянной нагрузкой

Логика меняется, как только GPU загружены большую часть времени на протяжении многих месяцев. Тариф облачного провайдера уже включает амортизацию его парка карт, электричество и охлаждение его дата-центра, зарплаты инженеров и прибыль сверху. Поэтому час аренды почти всегда выходит в несколько раз дороже часа работы той же карты на своём сервере, где после покупки основные расходы — только электричество и место в стойке.

Свой сервер выгоден для сценариев с постоянной, предсказуемой загрузкой:

продакшн-сервис на нейросети, который отвечает клиентам круглосуточно (чат-бот, RAG-система техподдержки, поиск по документам компании);
внутренний ИИ-ассистент, которым сотрудники пользуются весь рабочий день;
регулярное дообучение и обновление моделей по расписанию, а не разово;
инференс, который лежит в основе продукта и не может простаивать без потери выручки.

Счёт за аренду в этих случаях растёт линейно и без предела, а расходы на свой сервер после покупки выходят на плато. Выбор конкретного класса карт под такую нагрузку, потребительские RTX или профессиональные A100/H100, разобран в статье Как выбрать видеокарту для ИИ и нейросетей.

Точка окупаемости: как посчитать, когда свой сервер выгоднее

Считать нужно не цену видеокарты саму по себе, а полную стоимость владения (TCO) против полной стоимости аренды за тот же период. Логика расчёта, без выдуманных цифр:

Посчитайте месячную стоимость аренды нужной конфигурации GPU при вашем реальном профиле использования: часов в день, дней в месяц.
Посчитайте месячную стоимость владения: цену сервера разделите на срок полезной эксплуатации в месяцах (обычно 3-5 лет), прибавьте электричество, место в стойке, долю зарплаты на обслуживание.
Сравните две суммы. Если аренда стабильно выше стоимости владения, каждый следующий месяц на аренде — переплата.
Найдите срок окупаемости: сумму, накопленную на аренде, сопоставьте с ценой сервера. Дальнейшие месяцы владения фактически бесплатны, за вычетом текущих расходов.

На практике при загрузке GPU, близкой к постоянной, точка окупаемости часто укладывается в первый год эксплуатации: дальше сервер работает ещё несколько лет практически по цене электричества. Дополнительный бонус собственного железа — остаточная стоимость: отработавший своё сервер можно продать на вторичном рынке или перепрофилировать, тогда как деньги, потраченные на аренду, не возвращаются.

Приватность и контроль данных

При работе в облаке промпты, датасеты и веса модели проходят через инфраструктуру стороннего провайдера. Данные физически не под вашим контролем: провайдер технически имеет доступ к логам и хранилищу, а условия обработки регулирует его политика, а не ваша. Для компаний, которые работают с персональными данными граждан России, добавляется требование локализации хранения по 152-ФЗ: далеко не каждая зарубежная GPU-платформа подходит под это требование.

Для коммерческой тайны, клиентских данных, медицинской и финансовой информации, а также для весов дообученной модели, которые сами по себе интеллектуальная собственность компании, свой сервер снимает вопрос доверия к третьей стороне: данные не покидают периметр компании. Это одна из причин, почему компании с чувствительными данными переходят на собственное железо даже тогда, когда чистая почасовая экономика ещё не очевидна.

Независимость от провайдера: блокировки, тарифы, доступность GPU

Отдельный риск аренды, особенно актуальный для российских компаний — зависимость от решений зарубежного провайдера. Доступ к международным GPU-облакам может быть ограничен из-за санкционных требований, проблем с оплатой в валюте или смены политики платформы. Даже без блокировки тарифы на топовые карты колеблются в периоды дефицита GPU: при резком росте спроса ставка может подняться в разы, а нужный тип инстанса оказаться недоступен.

Свой сервер этих рисков не несёт. Купленное оборудование — это актив, которым не может распоряжаться никто, кроме владельца: его нельзя заблокировать, отключить решением платформы или внезапно сделать вдвое дороже в обслуживании. Для бизнеса, у которого GPU-мощность — часть основной инфраструктуры, а не разовое удобство, независимость от внешнего провайдера имеет ценность сама по себе.

Гибридный подход: свой сервер под базу, облако под пики

Локальная стойка подключена к удалённым облачным серверам по оптоволокну

На практике выбор часто не бинарный. Рабочая схема для компаний с растущей, но неровной нагрузкой — держать свой сервер под базовый, предсказуемый объём задач (постоянный инференс, ежедневная работа команды), а под кратковременные всплески (сезонный пик, разовое масштабное обучение, демонстрация новой функции) арендовать дополнительные GPU в облаке на нужный срок. Так капитал вкладывается только в мощность, которая точно будет загружена, а бизнес не упирается в потолок собственного железа в моменты роста.

Сравнение по критериям: облако или свой сервер

Сводная таблица по ключевым критериям выбора между арендой и покупкой GPU-сервера для нейросетей.

Критерий	Облако (аренда)	Свой сервер
Стоимость входа	Практически нулевая, оплата по факту использования	Крупный разовый платёж за оборудование
Стоимость при постоянной нагрузке	Растёт линейно и без предела, в разы дороже владения	После окупаемости — только электричество и обслуживание
Приватность данных	Данные проходят через инфраструктуру провайдера	Данные остаются в периметре компании
Масштабирование	Мгновенное, под любой пик, без ограничения сверху	Ограничено купленным железом, апгрейд требует времени и денег
Окупаемость	Не применимо, расходы не возвращаются	Обычно в пределах первого года при постоянной загрузке
Зависимость от провайдера	Риск блокировки, роста тарифов, дефицита GPU	Актив в полной собственности, никто не может его отключить
Требования к экспертизе	Минимальные, обслуживание на стороне провайдера	Нужны свои компетенции по железу или подрядчик
Остаточная стоимость	Отсутствует	Сервер можно продать или переиспользовать после апгрейда

Что выбрать по сценариям: чеклист

Разовый пилот или проверка гипотезы на нейросети — облако, без вложений в железо.
Нагрузка непредсказуема и скачет от нуля до пика — облако или гибрид с небольшой своей базой.
Стартап без бюджета на старте — аренда сейчас, свой сервер по мере роста нагрузки.
Продакшн-сервис с ежедневной нагрузкой — свой сервер, аренда обойдётся кратно дороже за год.
Работа с персональными данными или коммерческой тайной — свой сервер снимает вопрос приватности сразу.
Постоянная база плюс редкие сезонные пики — гибрид: свой сервер под базу, аренда под всплески.

Huananzhi — официальный дистрибьютор серверного оборудования HUANANZHI в России. Если расчёт склоняется в сторону своего сервера, поможем подобрать конфигурацию под вашу нагрузку: число и класс GPU, объём VRAM и памяти, охлаждение и питание. Работаем по счёту для юрлиц, даём гарантию и доставляем по всей России. Ассортимент готовых конфигураций — в разделе серверов для искусственного интеллекта.

Совет на практике

Прежде чем считать точку окупаемости, зафиксируйте реальный профиль нагрузки за 2-3 месяца: сколько часов в сутки GPU действительно заняты, а не сколько часов хотелось бы. Компании часто переоценивают загрузку на старте и покупают сервер под нагрузку, которая появится только через полгода. Если занятость GPU уже выше 40-50% рабочего времени и продолжает расти, это надёжный сигнал считать окупаемость всерьёз.

Формула TCO: считаем электричество, colocation, амортизацию и простой

Стоимость владения (TCO) своего GPU-сервера за N лет считается так:

TCO_own = CapEx + Σ(opex × N) − остаточная стоимость, где opex в год = электричество + colocation + обслуживание + потери от простоя.

Электричество: P_кВт × 8760 × цена_кВт·ч. Для 4×RTX 4090 (TDP 450 Вт каждая + CPU/платформа ~ 2.2 кВт под нагрузкой). При PUE 1.4 в colocation — 3.1 кВт. По 7 ₽/кВт·ч — 190 000 ₽/год.
Colocation: 4U при 3–6 кВт — 15 000–40 000 ₽/мес, или 180 000–480 000 ₽/год. Включает канал 1 Гбит/с, обычно с лимитом трафика.
Амортизация: CapEx / срок службы. Для сервера за 2 млн ₽ на 4 года — 500 000 ₽/год.
Обслуживание: замена вентиляторов, термопрокладок, дежурство — 5–10% CapEx в год.
Простой: RMA, ремонт, ожидание запчастей — 3–10% времени. В деньгах — упущенная выручка или аренда резерва в облаке.

TCO аренды: часы × ставка + storage + egress. Простой облака тоже есть, но не оплачивается, если инстанс остановлен.

Точка окупаемости в днях: N = CapEx / (cloud_hourly × 24 − own_daily_opex). Пример: сервер 4×4090 за 2 млн ₽, opex 400 000 ₽/год = 1096 ₽/день. Аренда аналогичного инстанса — 450 ₽/час, то есть 10 800 ₽/сутки. N = 2 000 000 / (10 800 − 1096) ≈ 206 дней. При загрузке 70% окупаемость растягивается до ~10 месяцев. Если GPU загружены меньше 30% времени, облако дешевле.

Ориентиры по конфигурациям и ценам для расчёта

Для расчёта окупаемости нужны три цифры: CapEx сервера, часовая ставка аренды аналога и средняя загрузка. Ниже — ориентиры на 2025 год, курс ~ 90 ₽/$.

Сценарий	Конфигурация	CapEx, ₽	Аренда, ₽/час
Инференс 7B–13B, RAG	1×RTX 4090 24 ГБ, 64 ГБ RAM, 2×NVMe	400 000–500 000	80–150
Файнтюн 70B LoRA, инференс 30B	2×A100 80 ГБ SXM, 256 ГБ RAM	4 500 000–6 000 000	600–900
Полный файнтюн 70B, обучение	8×H100 80 ГБ SXM, NVLink, 1 ТБ RAM	25 000 000–32 000 000	2 500–4 000
Инференс 70B в fp8	1×L40S 48 ГБ или 2×RTX 4090	700 000–900 000	150–250

Цены на GPU отдельно: RTX 4090 — 250 000–300 000 ₽, A100 80 ГБ — 900 000–1 200 000 ₽, H100 80 ГБ — 2 500 000–3 000 000 ₽. Платформа (CPU, RAM, NVMe, БП, корпус) добавляет 200 000–600 000 ₽ в зависимости от количества GPU.

Окупаемость = CapEx / (экономия в час × часы загрузки). Экономия в час — разница между арендой и opex владения. Например, для 2×A100: аренда 800 ₽/час, opex 300 ₽/час (электричество 4 кВт × 7 ₽ + colocation 30 000 ₽/мес). Экономия 500 ₽/час. При загрузке 12 ч/день — 6000 ₽/сутки, окупаемость 5 млн / 6000 ≈ 833 дня. При 24/7 — 416 дней. Вывод: конфигурации дороже 5 млн ₽ окупаются только при круглосуточной загрузке или если аренда недоступна.

Риски б/у GPU: гарантия, ремонт, деградация

Б/у GPU после майнинга — главный источник экономии при сборке сервера и главный источник простоев. Основные риски:

Деградация GDDR6X на RTX 3090/4090: память работает при 100–110 °C, со временем растёт количество ошибок. Проверка — memtest_vulkan, HWiNFO, тест 30 минут под нагрузкой. Температура памяти выше 100 °C — отказ.
Износ вентиляторов и термопрокладок: замена — 3 000–8 000 ₽ за карту, но требует разборки.
Отсутствие гарантии: частные продавцы не дают ничего. RMA у NVIDIA/ASUS/MSI привязана к чеку и первому покупателю. При перепродаже гарантия часто не передаётся.
Серверные GPU (A100, H100) — OEM-поставка, гарантия привязана к серийному номеру системы. Купленная отдельно карта без гарантии вендора — риск 300 000–1 000 000 ₽.

Ремонт: замена VRAM требует BGA-пайки и реболлинга, 20 000–50 000 ₽ за карту. Не все сервисы берутся, срок 2–6 недель. Замена GPU-чипа — 100 000–200 000 ₽, часто нерентабельна.

Практика: для продакшена брать новое или certified refurbished с гарантией 12 месяцев. Для тестовых и непиковых нагрузок допустимы б/у 3090/4090 с проверкой и запасом 20–30% на отказ. В сервере из 4 карт закладывайте одну резервную или держите договор с сервисом на подмену. Гарантия вендора на серверные GPU — 3 года, но только при покупке у авторизованного партнёра.

Задержка, канал и удалённый доступ

Свой сервер в colocation даёт 1–5 мс задержки до клиентов в том же городе. Облачный GPU-инстанс в другом регионе — 20–50 мс, межконтинентальный — 100–200 мс. Для real-time инференса (голосовые боты, видеоаналитика, стриминг) разница критична: 30 мс уже заметны, 100 мс ломают диалог.

Канал:

Обучение: скачивание датасетов 100 ГБ–10 ТБ, нужен канал 1–10 Гбит/с. В облаке ingress часто бесплатный, egress — $0.08–0.12/ГБ. Выгрузка 1 ТБ — $80–120.
Инференс: 100 Мбит/с достаточно для 100–500 запросов/с при ответах в несколько КБ. Видеопоток 1080p — 5–10 Мбит/с на поток.
Colocation обычно даёт 1 Гбит/с с лимитом 10–30 ТБ/мес, дальше — 100–300 ₽/ТБ.

Удалённый доступ: SSH, VPN (WireGuard), Jupyter, VS Code Remote, Kubernetes. Для управления железом нужен out-of-band доступ: IPMI, iDRAC, iLO. Без него перезагрузка после зависания — выезд инженера, 5 000–15 000 ₽ за визит.

Облако даёт готовый API, S3, балансировщики, автомасштабирование. Свой сервер требует настроить мониторинг (Prometheus + Grafana), логирование, бэкапы и обновления драйверов/CUDA. На это уходит 10–20% времени DevOps. Если команды нет — облако дешевле на зарплате. Если есть — свой сервер в colocation даёт полный контроль и предсказуемую задержку.

Частые ошибки

Сравнивают месячную аренду только с ценой видеокарты, забывая добавить в расчёт своего сервера электричество, охлаждение, место в стойке и обслуживание.
Держат постоянную продакшн-нагрузку в облаке годами, хотя точка окупаемости покупки давно пройдена, и продолжают платить чужую маржу каждый месяц.
Покупают мощный сервер под пиковую нагрузку, которая нужна раз в квартал, вместо того чтобы держать в собственности только базовый объём и докупать пики в облаке.
Не учитывают требования к локализации и приватности данных на старте, а потом вынужденно переносят инфраструктуру, когда чувствительные данные уже накопились в чужом облаке.

Частые вопросы

За сколько месяцев окупается свой GPU-сервер по сравнению с арендой?

Зависит от загрузки, но при нагрузке, близкой к постоянной, окупаемость часто укладывается в первые 6-12 месяцев, потому что тариф аренды закладывает маржу и накладные расходы провайдера сверх стоимости железа и электричества.

Что выгоднее стартапу без бюджета на оборудование: аренда или покупка GPU-сервера?

На старте, пока нагрузка непредсказуема и продукт ещё не подтвердил спрос, выгоднее аренда: она не требует капитальных вложений. Переход на свой сервер имеет смысл, когда нагрузка становится постоянной на несколько месяцев вперёд.

Можно ли одновременно использовать свой сервер и облако?

Да, это распространённая гибридная схема: свой сервер закрывает базовую предсказуемую нагрузку, а облако арендуется точечно под сезонные пики или разовые задачи сверх мощности собственного железа.

Что безопаснее для конфиденциальных данных: свой сервер или аренда GPU в облаке?

Свой сервер безопаснее с точки зрения контроля: данные не покидают периметр компании. При аренде данные проходят через инфраструктуру провайдера, что дополнительно ограничено требованиями локализации персональных данных по 152-ФЗ для российских компаний.