Собираем сервер под свой локальный ИИ: сколько нужно VRAM и почему одна видеокарта лучше двух

Локальный ИИ в 2026-м начинает становиться нормой для многих компаний. Причины понятные: данные не утекают в чужое облако, не нужны ни VPN, ни подписка на каждого сотрудника, всё крутится на своём железе и под контролем. Вот только перед тем как «поставить Ollama и запустить модель», всех встречает вопрос, на котором спотыкается большинство: а какое, собственно, железо под это брать?

Собрал для себя такой сервер, гоняю на нём локальные модели уже некоторое время — и ниже разберу, как выбирать конфигурацию под свою задачу и бюджет. Сбалансировано и без переплат (основано на моем опыте, не претендую на то, что это самый идеальный сервер для ИИ).

Про цены. В 2026-м видеопамять и видеокарты ощутимо подорожали! Поэтому конкретные суммы ниже — ориентир на 20 июня 2026-го, перед покупкой сверяйтесь с актуальными. А вот сам подход к выбору от прайса не зависит, и именно его и разберем в статье.

И ещё одно честное замечание, чтобы не разочароваться. Локальная модель не заменит фронтир — ChatGPT, DeepSeek и им подобных — по всем фронтам. Но для внутренних документов, черновиков, кода и обработки собственных данных её хватает с запасом, и данные при этом никуда не уходят. Какую модель под какую задачу брать — разговор отдельный (разберу в следующих статьях); здесь только про железо.

Всё решает видеопамять

Если из всей статьи забрать одну мысль — вот она: локальная LLM почти целиком живёт в памяти видеокарты. Сколько у вас VRAM, модель такого размера Вы и запустите на комфортной скорости.

Что будет, если модель в видеопамять не влезает? Она начнёт «переливаться» в обычную оперативку и досчитываться на процессоре, и скорость просядет в разы. Условные десятки токенов в секунду на GPU превращаются в тягостное ожидание на CPU; на практике разница легко доходит до 5–30 раз.

Отсюда и порядок сборки, непривычный для тех, кто собирал игровые ПК «от процессора»: сначала выбираем видеокарту по объёму VRAM под нужный размер моделей, а всё остальное собираем уже вокруг неё. Процессор, плата, корпус — это обвязка, которая обслуживает карту, а не наоборот.

Ориентир по объёму — вот такой:

Дальше всё идет от этой таблицы.

Почему две видеокарты — почти всегда плохая идея

На практике 1 видеокарта на 32 ГБ лучше чем 2 по 16ГБ, и вот из-за чего.

Первое и главное — шина. На обычных материнках второй слот работает на урезанной скорости, x4 или x8, и обмен данными между картами превращается в бутылочное горлышко. «Суммарной» памяти вы толком не получаете — получаете головную боль с её раскладкой. Дальше — школьная физика: две карты это кратно более мощный блок питания, больше тепла в корпусе, выше шум и заметно более капризное охлаждение. И всё это не разово, а постоянно, потому что машина работает круглосуточно. По деньгам и по хлопотам две карты по 16 гигабайт проигрывают одной на 32, которая даёт тот же объём проще и часто быстрее. А если модель целиком помещается в одну карту, вторая и вовсе стоит без дела — вы просто заплатили за простаивающее железо.

Вывод простой: берите одну видеокарту с максимальным объёмом VRAM, какой вытягивает бюджет. Несколько карт оправданы только в серьёзном продакшене под очень крупные модели — но это уже серверное железо, специальные движки вроде vLLM и совсем другой разговор. Есть еще вариант нескольких серверов с балансировкой запросов — но это будет отдельная статья.

Теперь по компонентам

Видеокарта — сердце сервера

Тут всё определяет объём VRAM, к таблице выше добавить нечего — остальные параметры вторичны. Из принципиального: карта должна быть только NVIDIA. У неё зрелая экосистема (CUDA), и весь софт для локального ИИ заводится из коробки; с картами других вендоров вы будете воевать с совместимостью вместо того, чтобы работать. По поколению актуальны RTX 50-й серии (Blackwell) и профессиональные RTX PRO Blackwell — чем свежее, тем эффективнее. Стоит заранее посмотреть на энергопотребление (TGP): от него зависят требования к блоку питания и охлаждению, а для машины 24/7 это не мелочь. Профессиональные карты вдобавок дают память с коррекцией ошибок (ECC) и рассчитаны на круглосуточную работу — но и стоят соответственно.

Отдельно предостерегу насчёт «модов». На рынке попадаются переделанные китайские карты с удвоенной памятью — какая-нибудь «RTX 5080 на 32 гига для ИИ». Для учебного, а тем более рабочего сервера брать их не стоит: ни гарантии, ни предсказуемого поведения. Мнимая экономия оборачивается риском.

Процессор

При инференсе на видеокарте процессор — не главный герой, так что переплачивать за топовый CPU в ущерб карте не надо. Хватает современного середняка: Core i5/i7 или Ryzen 5/7 (в тяжёлых сборках — Ryzen 9, Threadripper, Xeon). Важно, чтобы процессор давал нужное поколение линий PCIe под слот видеокарты и оставлял запас ядер на систему и обработку API-запросов.

Материнская плата

От платы нужно немногое: правильный сокет под процессор, один полноскоростной слот PCIe x16 нужного поколения (второй ни к чему — карта у нас одна), слот M.2 под NVMe и, желательно, четыре слота под оперативную память с запасом на будущее. По сети минимум — гигабит, а 2.5 ГБит/с будут приятным заделом.

Оперативная память

Правило простое: оперативки не меньше, чем видеопамяти, а лучше вдвое больше. Под 16 ГБ VRAM — это минимум 32 ГБ RAM, комфортно 64. Тип и частота диктуются платой и процессором, сейчас это DDR5. В рабочих сборках закладывайте запас — на систему, веб-интерфейс, контейнеры и несколько одновременных клиентов. И держите в уме, что в 2026-м DDR5 подорожала и превратилась в заметную статью бюджета (у меня, например, именно память вытянула сборку под потолок).

Накопитель

Только NVMe SSD в формате M.2 — ни SATA, ни тем более HDD под систему и модели даже не рассматриваем. С объёмом сложнее: одна модель в GGUF весит от 5 до 40 гигабайт, а их у вас будет несколько, так что терабайт кончается на удивление быстро. Для старта — минимум 1 ТБ, спокойно жить начинаешь от 2 ТБ. В продакшене логично разнести систему и модели по разным дискам, отдав под модели диск побольше.

Блок питания

Мощность берём с запасом под пиковое потребление карты плюс вся остальная система. Грубый ориентир: под карту на ~180 Вт хватит блока 650–750 Вт, под 300–360 Вт — уже 850 Вт, под 500–600 Вт — 1000–1200 Вт. Сертификат — 80+ Gold и выше: для круглосуточной работы важны и КПД, и стабильность. Для современных мощных карт нужен стандарт ATX 3.1 и разъём 12V-2×6. На блоке питания экономить нельзя в принципе — именно от него зависит, доживёт ли до утра всё остальное.

Корпус и охлаждение

Здесь всё крутится вокруг продувки. Машине, которая пашет сутками, нужен нормальный воздушный поток: сетчатая передняя панель, достаточно вентиляторов. Корпус должен вмещать карту по длине — мощные карты длинные, это регулярно вылезает боком при сборке. Процессор охлаждаем по его аппетиту: добротный башенный кулер или СЖО. Задача — держать стабильную температуру и терпимый шум под постоянной нагрузкой, а не выжимать рекорды.

Операционная система

Тут развилка. Windows 11 Pro (именно Pro, не Home) — если хотите управлять сервером по удалённому рабочему столу: в Home роль RDP-хоста недоступна. Либо Linux с доступом по SSH — для продакшена этот путь в итоге удобнее.

Три сборки под разный бюджет

По сути вся разница между уровнями — это лестница по VRAM: 16 → 32 → 48 гигабайт. Всё остальное просто подстраивается под карту.

До 150 000 ₽ — вход в локальный ИИ (16 ГБ VRAM)

Один пользователь: чат, боты, обработка текста и картинок. Модели 7–14B тянет комфортно, 24–27B в Q4 — впритык.

150 000 – 400 000 ₽ — мощный одиночный сервер (32 ГБ VRAM)

Главный апгрейд здесь — видеопамять с 16 до 32 гигабайт: открываются модели 27–32B, большой контекст и возможность держать несколько моделей в памяти одновременно. Под активного одиночку или небольшую группу.

Если 16 ГБ VRAM вам хватает, а хочется просто больше скорости, есть вариант дешевле: взять RTX 5070 Ti 16 ГБ (≈ 92 000 ₽) или RTX 5080 16 ГБ (≈ 125 000 ₽) и вложить сэкономленное в более крепкую обвязку. Такая сборка укладывается в 250 000–300 000 ₽.

400 000 – 800 000 ₽ — сервер под команду и продакшен (48 ГБ VRAM)

Профессиональная карта на 48 ГБ с ECC-памятью и расчётом на круглосуточную работу: модели класса 70B в квантизации, много одновременных пользователей, повышенная надёжность.

Есть и альтернатива: если по объёму хватает 32 ГБ, но нужна именно продакшен-надёжность, поставьте RTX 5090 32 ГБ на серьёзную платформу с ECC и ИБП — выйдет дешевле и оставит запас в бюджете.

А выше 800 000 ₽ начинается следующая лига — NVIDIA RTX PRO 6000 Blackwell 96 ГБ (от ≈ 1 080 000 ₽): очень большие модели и высокая нагрузка.

Моя сборка — как пример

Чтобы не быть голословным, покажу конфигурацию, которую собрал сам. Заказ из обычного компьютерного магазина рядом с домом, итог — 152 742 ₽ (на 20 июня 2026).

Коротко, почему собрано именно так. Главный компонент — RTX 5060 Ti на 16 ГБ: этой памяти хватает, чтобы комфортно крутить модели до 14B и дотягиваться до 24–27B в квантизации, и по соотношению «объём VRAM / цена» это самая разумная точка входа. i5-13600K — крепкий середняк, при инференсе на GPU он бутылочным горлышком не становится. Оперативки — 32 ГБ, вдвое больше видеопамяти, как и положено; и именно подорожавшая память, а не что-то ещё, подтянула всю сборку к 150 тысячам. Блок питания на 750 Вт с сертификатом Gold и ATX 3.1 взят с запасом под карту и с правильным разъёмом — как раз под режим 24/7. Корпус Deepcool CC560 V2 хорошо продувается, что под постоянной нагрузкой важнее, чем красивая подсветка. SSD на терабайт — это стартовый минимум, местом приходится управлять с оглядкой, потому что модели съедают его очень бодро.

В сумме — сбалансированная точка входа: ничего лишнего, весь бюджет ушёл в то, что реально влияет на работу ИИ.

ИБП: для дорогих и круглосуточных сборок — обязателен

Чем дороже сервер и чем критичнее он для дела, тем нужнее источник бесперебойного питания. Для машины, которая работает круглосуточно и обслуживает клиентов, ИБП закрывает сразу три задачи. Во-первых, страхует от внезапного отключения: резко пропавшее питание в момент записи легко повреждает и данные, и систему, а ИБП даёт время корректно завершить работу. Во-вторых, сглаживает просадки и скачки напряжения, а это продлевает жизнь и блоку питания, и остальным компонентам. В-третьих, держит сервис на плаву — при коротких отключениях сервер продолжает работать, и клиенты не теряют доступ.

Берите линейно-интерактивный ИБП с запасом мощности под свою сборку (для топовых конфигураций — 1000–1500 ВА и выше). Полезно, если он умеет сам безопасно выключать ПК через USB-связь. Из вменяемых производителей — APC, CyberPower, Ippon, PowerCom. Для базовой сборки ИБП тоже не помешает, а в дорогих и продакшен-конфигурациях он уже обязателен.

Бонус: пусть сервер под ваши задачи соберет сам ИИ

Если хочется, чтобы конфигурацию под ваш бюджет и задачи набросала сама модель, — вот шаблон промта. Заполните поля в квадратных скобках и отправьте любой языковой модели: хоть облачной, хоть своей локальной, когда сервер уже соберёте.

Помоги подобрать характеристики системного блока для покупки в магазине.

Задача: собрать сервер для развёртывания локальной ИИ-модели (LLM) под Windows 11 Pro.
Размер модели, который планирую запускать: [небольшая 7-8B / средняя 13-14B / крупная 27-32B / очень крупная 70B].
Бюджет: [сумма] рублей.

Условия работы:
- компьютер включён постоянно (24/7), монитор не нужен — управляю через удалённый рабочий стол;
- к модели обращаются с других компьютеров в локальной сети (сеть [100 Мбит / 1 Гбит]);
- клиенты подключаются к модели через API-запросы;
- типовые задачи: [обработка текста / работа с изображениями / код / документы].

Что мне нужно от тебя:
1. Подбери конкретные компоненты: видеокарта (с указанием объёма VRAM), процессор, материнская плата, оперативная память, SSD, блок питания, корпус, охлаждение.
2. Поставь только ОДНУ видеокарту с максимальным объёмом VRAM в рамках бюджета (объясни выбор).
3. Убедись, что блок питания и корпус подходят под выбранную видеокарту.
4. Укажи примерную цену каждого компонента и итоговую сумму.
5. Если бюджет позволяет — добавь ИБП (UPS) подходящей мощности.
6. Кратко объясни, какие модели какого размера потянет эта сборка.

Дай готовый список, который я смогу принести в магазин и купить.

Что дальше

Железо — это фундамент, но только фундамент. Дальше начинается самое интересное: поставить Ollama и запустить модели именно на видеокарте, собрать свою версию модели под задачи через Modelfile, поднять Open WebUI с доступом по локальной сети и авторизацией для сотрудников, научить всё это обрабатывать документы (PDF, Word, Excel, сканы), подключить инструменты и в финале переехать на боевой Linux-сервер.

Читать полностью на источнике