Сколько стоит локальная нейросеть для компании

Финансовый директор просит ИТ-отдел посчитать, во что обойдётся своя нейросеть, и получает разброс от цены игрового компьютера до цены серверной стойки. Разброс честный, потому что всё зависит от задачи, а сузить его помогают три вопроса. Какая модель справится с вашими документами? Сколько памяти ей понадобится, когда с ней одновременно работают десятки сотрудников? И выйдет ли свой сервер дешевле, чем платить облаку за каждый запрос?

Сколько стоит локальная нейросеть

Главная статья расходов — сервер с видеокартой, и его цену определяет память карты. На конец сентября 2026 года крупный российский хостинг сдаёт выделенный сервер с одной картой на 24 ГБ от 56 900 ₽ в месяц, с картой на 96 ГБ — от 125 500 ₽, с картой на 141 ГБ — от 415 800 ₽.

К аренде добавляются разработка, чтобы подключить модель к вашим документам и системам, и поддержка. Какая карта нужна, зависит от размера модели и от того, сколько людей работает с ней одновременно.

Сколько памяти нужно модели

Память уходит на две вещи. Первая — веса модели, то есть числа, в которых записано всё, чему она научилась. При обычной 16-битной точности каждый параметр занимает 2 байта, поэтому модели на 7 млрд параметров нужно около 14 ГБ. Модели часто хранят с меньшей точностью, это называется квантизацией: в 8 битах параметр занимает 1 байт, в 4 битах — полбайта, и та же модель помещается в 7 или 3,5 ГБ.

Вторая — память под разговоры. Пока модель читает вопрос и найденные документы, она держит их в видеопамяти. В расчёте NVIDIA для модели на 7 млрд параметров один разговор длиной 4 096 токенов (так называют кусочки слов) занимает около 2 ГБ. У новых моделей эта часть меньше, но растёт так же, с каждым сотрудником, который пишет одновременно. Поэтому карту подбирают под веса плюс запас на всех, кто будет работать в пиковый час.

Какие открытые модели можно поставить у себя

Модели ниже опубликованы разработчиками вместе с весами и разрешают коммерческое использование. Данные — из их карточек на Hugging Face на конец сентября 2026 года.

У YandexGPT 5 Lite лицензия особая. Коммерческое использование она разрешает, но, когда модель выдаёт больше 10 млн токенов в месяц, нужно в течение 30 дней договориться с Яндексом о дальнейших условиях. В её разделе ограничений упомянуты персональные данные и коммерческая тайна, поэтому, если вы собираетесь работать с такими данными, покажите лицензию юристу до того, как строить на ней систему.

Какой сервер нужен под вашу задачу

Три конфигурации для компании на 100–300 человек, они условные, подставьте свои задачи. Цены аренды взяты у того же хостинга, для двух карт по 141 ГБ — облачный сервер с почасовой оплатой.

Самое неочевидное в этих таблицах — разница между двумя числами параметров. Модели с пометкой вроде «35B-A3B» устроены как набор специалистов: на каждое слово включается только малая часть сети. Поэтому Qwen3.6 тратит на каждое слово примерно столько вычислений, сколько модель на 3 млрд параметров, а памяти требует как модель на 35 млрд.

У DeepSeek-V4-Flash активных параметров 13 млрд, но в память нужно уместить все 284 млрд, и одной карты на 141 ГБ для неё уже не хватит. Число активных параметров говорит о скорости, а цену железа определяет общее, и если подбирать карту по первому числу, модель просто не запустится.

Выгоднее ли свой сервер, чем облако

Посчитаем на условной компании, числа подставьте свои. Допустим, 50 сотрудников задают помощнику по 40 вопросов в день, и на каждый вопрос с найденными документами и ответом уходит около 3 000 токенов. За 22 рабочих дня набегает 132 млн токенов в месяц. По тарифам GigaChat API для юрлиц на сентябрь 2026 года это около 8 600 ₽ в месяц на модели Lite и около 66 000 ₽ на модели Pro.

Сервер с одной картой на 24 ГБ стоит от 56 900 ₽ в месяц, и это без разработки и поддержки. Облачная Lite выходит дешевле в шесть с лишним раз, а Pro обходится примерно как аренда.

При таком объёме своя модель деньги не экономит, и выбирают её по другой причине: клиентскую базу, договоры или учёт нельзя отдавать внешнему сервису. Если такого ограничения нет, облачная модель чаще обходится проще, а если есть, считать нужно уже не цену токена, а цену утечки.

Вопросы о железе и моделях

Обновлено 28 сентября 2026 · Редакция Rule 90