Лаборатория архитектуры AI
Статьи · Нейросети

Локальная нейросеть: дешевле ли она, чем API

Локальная нейросеть выгоднее API при большом постоянном объёме, дорогой облачной модели или закрытых данных, потому что цена видеокарты делится на месяцы службы, а миллион токенов дешёвой облачной модели стоит центы. По расчёту исследователей Pan и соавторов, своё железо оправдано в основном от 50 млн токенов в месяц. Сначала посчитайте свои токены и проверьте, тянет ли модель ваш компьютер.

Роман Кауфман, основатель Кауфман Lab · Данные на: октябрь 2026

Окно расхода в месяц: строка света карты RTX 4090 в красной рамке, рядом ценник дешёвого API. Надпись: Своя нейросеть или API? Своя — на большом объёме
Локальная нейросеть на RTX 4090: карта $50 в месяц, плюс свет, а дешёвый API — $6

Студенту, который сам делает себе сайт, локальную модель советуют словами «Вы тратитесь только на электричество и железо». Другой путь называют API. Там модель работает в чужом облаке, а вы платите за объём текста.

С августа 2026 года модель нашего личного ИИ-помощника тоже живёт в облаке, ему нужно пять-десять вызовов в сутки. Почему не на своём компьютере, если свет почти ничего не стоит? Ответ в счёте за электричество.

Домашняя модель отстаёт от платных на полгода–год

Модель, которая помещается в одну домашнюю видеокарту, догоняет лучшие платные через 6–12 месяцев. Такой срок получили исследователи Epoch AI Венкат Сомала и Люк Эмберсон в разборе от 9 сентября 2025 года по четырём тестам. Домашней они считают модель до 28 млрд параметров для карты RTX 4090.

Авторы сами предупреждают, что лучшую открытую модель чаще подгоняют под тесты, поэтому в реальной работе отставание, скорее всего, больше. По их грубой оценке, открытая gpt-oss-20b может быть сравнима с платной o1-mini, а разрыв между ними 11 месяцев.

Маленький паровоз домашней модели едет позади большого паровоза платной, между ними рулетка разрыва. Надпись: Домашняя модель отстаёт на полгода–год
Локальная нейросеть отстаёт от платных по тестам на 6–12 месяцев, в работе, скорее всего, больше

Своё железо окупается против дорогих API или на большом объёме

Своя видеокарта отбивает деньги, если сравнивать её с дорогой облачной моделью или гонять через неё очень много текста. Расчёт окупаемости своего железа исследователи Guanzhong Pan и соавторы выложили 11 ноября 2025 года. Порог у них в основном от 50 млн токенов в месяц (токеном называют кусочек текста).

Мерный стакан токенов в месяц: ниже черты порога API, выше черты окупается своя видеокарта. Надпись: Своё железо окупается на большом объёме
Локальная нейросеть на своём железе окупается в основном от 50 млн токенов в месяц

У небольших компаний с объёмом меньше 10 млн токенов в месяц малая модель на одной RTX 5090 (около $2 000) может окупиться за 0,3–3 месяца. Срок у Pan зависит от того, с какой платной моделью сравнивать, например с Claude-4 Opus или GPT-5. Зарплаты в расчёт не входят, хотя кто-то должен ставить драйверы и обновлять модели. Остальные строки сметы владельца собраны в статье сколько стоит ИИ-агент.

Второе условие у Pan касается данных, которые нельзя отдавать на чужой сервер. Где граница для файлов компании, мы разобрали в статье какие данные загружать в нейросеть.

Наш помощник на другом краю шкалы. На сентябрь 2026 года бесплатный тариф облачного провайдера пускал до пятидесяти вызовов в сутки, расход на модель был 0 ₽.

Свет карты дороже дешёвого API при 500 000 токенов в день

Даже купленная видеокарта может съесть на свет больше, чем стоит дешёвый API. Разработчик Flavio Copes обновил свой расчёт карты против API 3 августа 2026 года. С уже купленной картой своё у него выигрывает «почти при любом объёме».

Его же цифры говорят другое. При 500 000 токенов в день RTX 4090 берёт около 400 Вт, и при $0.16 за кВт·ч свет выходит $8.60 в месяц. Тот же объём через дешёвый API стоит $6, через средний $30.

Видеокарта подключена к счётчику света, рядом маленький ценник дешёвого API и больший ценник среднего. Надпись: Свет выходит $8.60 в месяц
Свет локальной нейросети на RTX 4090 — между дешёвым API за $6 и средним за $30

Покупку тоже приходится раскладывать по месяцам. Карта за $1 800 на три года службы стоит $50 в месяц до первого токена, а со светом около $59. Против дешёвого API при таком объёме карта не окупается никогда, против флагманского тарифа в $150 в месяц окупается примерно за 20 месяцев. Прайсы меняются, важен порядок чисел.

Поэтому нашему помощнику своя карта не нужна, бесплатное облако дешевле даже одного света.

Сначала посчитайте объём, потом выбирайте видеокарту

Решение о локальной нейросети начинается с числа токенов в день, видеокарту выбирают после.

  1. Калькулятор, до покупки. В калькуляторе Copes впишите в «Output tokens / day» токены ответов в день, в «$/M output tokens» цену API за миллион. Он покажет расход в месяц у своей карты и у API и срок окупаемости.
  2. Проверка компьютера, до покупки. Поставьте Ollama, программу для модели у себя, запустите модель и наберите `ollama ps`. В колонке Processor «100% GPU» значит, что модель в видеокарте. «100% CPU» говорит, что модель целиком легла в обычную память компьютера, а не в видеокарту.
  3. Облако выключить до первых данных. В файле `~/.ollama/server.json` поставьте `"disable_ollama_cloud": true` и перезапустите Ollama. В журнале появится строка «Ollama cloud disabled: true», так написано в справке Ollama, проверено 31 октября 2026 года.

Студенту хватит первого шага. Если вы всё же поставили Ollama и видите «100% CPU», берите API, иначе пробуйте модель у себя. Маркетологу шаг 1 покажет, где кончается выгода API, а владельцу с закрытыми данными нужны шаги 2 и 3.

Частые вопросы

Какая нейросеть работает без интернета?

Без интернета может работать, например, gpt-oss-20b. По словам OpenAI в августе 2025 года, ей хватает 16 ГБ памяти. В Ollama модель работает на вашем компьютере, но сначала программа скачивает её из интернета. Облачные модели самой Ollama обрабатываются на её серверах, их выключает настройка из третьего шага.

Как запустить нейронку на компьютере?

Поставьте Ollama и наберите в терминале `ollama run gemma4`, программа скачает модель и запустит её у вас.

Что такое локальная нейросеть?

Локальной называют нейросеть, которая работает на вашем компьютере. Запросы к ней Ollama, по её словам, не видит.

Есть вопрос по статье?

Напишите в Telegram: отвечу сам, разберу вашу задачу и скажу, что из этого ей подходит.

Написать в Telegram→
Другие статьи
↑ наверх