Свел экономику домашнего рига против API в табличку, вышло грустно. Разубедите
Рейтинг: 48.7% · 7 голосов
Войдите, чтобы голосовать
Голосовать «За» и «Против» могут только авторизованные пользователи. Войдите в свой аккаунт — или зарегистрируйтесь, это займёт минуту.
Нет аккаунта? Зарегистрироваться
Свел экономику домашнего рига против API в табличку, вышло грустно. Разубедите
Сидел вчера с калькулятором и решил честно посчитать, во что мне обходится локалка.
Дано: риг на двух бу 3090, брал в сумме за 175к год назад. Под нагрузкой жрет 750 ватт, у меня 6.2 руб за квтч, по счетчику выходит около 1200 руб в месяц вместе с простоем. Кручу в основном 70B и Qwen3-32B, расход 1.5-2 млн токенов в день, кодинг и личные проекты.
Теперь API: дипсик сейчас 0.28 бакса за млн входных и 0.42 за выходные, с кэшем еще дешевле. Мои объемы это около сотни баксов В ГОД. Амортизация рига против этого даже не смешная: 175к железа плюс электричество плюс мой вечер на каждое обновление llama.cpp.
Вывод, который мне не нравится: при моих объемах локалка не окупится никогда. Держу ради приватности кода и потому что нравится копаться. Но когда мне тут в очередной раз напишут 'выгодно', я хочу видеть табличку.
Разубедите, реально интересно, где я ошибся в расчете.
Дано: риг на двух бу 3090, брал в сумме за 175к год назад. Под нагрузкой жрет 750 ватт, у меня 6.2 руб за квтч, по счетчику выходит около 1200 руб в месяц вместе с простоем. Кручу в основном 70B и Qwen3-32B, расход 1.5-2 млн токенов в день, кодинг и личные проекты.
Теперь API: дипсик сейчас 0.28 бакса за млн входных и 0.42 за выходные, с кэшем еще дешевле. Мои объемы это около сотни баксов В ГОД. Амортизация рига против этого даже не смешная: 175к железа плюс электричество плюс мой вечер на каждое обновление llama.cpp.
Вывод, который мне не нравится: при моих объемах локалка не окупится никогда. Держу ради приватности кода и потому что нравится копаться. Но когда мне тут в очередной раз напишут 'выгодно', я хочу видеть табличку.
Разубедите, реально интересно, где я ошибся в расчете.
✔ Лучший ответ сформирован автоматически — boblee
nakamudr писал(а):при моих объемах локалка не окупится никогда ключевое слово при моих. 2 млн токенов в день это правда смешно. у меня пайплайн синтетики и разметки молотит 40-50 млн в сутки, батчами, ночью. по API это было бы 80-100к рублей в месяц даже на дешевом дипсике, риг отбился за полгода. локалка окупается не чатиками, а конвейером: синтетика, эмбеддинги, классификация, переразметка дата…
Re: Свел экономику домашнего рига против API в табличку, вышло грустно. Разубедите
✔ Лучший ответ — сформирован автоматически
ключевое слово при моих. 2 млн токенов в день это правда смешно. у меня пайплайн синтетики и разметки молотит 40-50 млн в сутки, батчами, ночью. по API это было бы 80-100к рублей в месяц даже на дешевом дипсике, риг отбился за полгода. локалка окупается не чатиками, а конвейером: синтетика, эмбеддинги, классификация, переразметка датасетов. нет конвейера, тогда да, API дешевле, тут спорить не с чемnakamudr писал(а):при моих объемах локалка не окупится никогда
Re: Свел экономику домашнего рига против API в табличку, вышло грустно. Разубедите
в табличке не хватает строчки как платить. напрямую российской картой ни openai, ни anthropic не оплатишь, посредники берут 15-25% сверху, карта казахского банка это поездка и заморочки. дипсик да, дешевый и оплачивается проще, но завтра он поднимет цены или начнет резать лимиты, и твоя экономика поедет. локалка это не про цену токена, а про то, что никто не выключит рубильник
Re: Свел экономику домашнего рига против API в табличку, вышло грустно. Разубедите
этой страшилке три года, а цены на API за это время упали раз в десять. конкуренция дикая, опенсорс веса лежат в открытую, на них десяток хостеров, любой оплачивается криптой за пять минут. рубильник в 2026 уже не аргумент. аргумент только приватность и регуляторка, вот за NDA-код в чужое облако реально можно огрести, тут локалке альтернатив нетdepechie писал(а):завтра он поднимет цены или начнет резать лимиты
- juniorstack
- Сообщения: 62
- Зарегистрирован: 12 май 2026, 12:04
Re: Свел экономику домашнего рига против API в табличку, вышло грустно. Разубедите
обе стороны правы, задачи просто разные. у меня так: локалка на одной 3090 крутит мелочь круглосуточно, автокомплит, коммит-месседжи, разбор логов, тысячи запросов, где лень считать копейки и куда сливать код не хочется. сложное уходит в API. и вход в локалку, кстати, не 175к, одна бу 3090 за 55к закрывает 90% бытовых сценариев. табличка ТС честная, просто она про чужой юзкейс
Поделиться темой:
✈ Telegram
VK
- Похожие темы
-
- Raspberry Pi 5 или мини-ПК для домашнего сервера в 2026? Уже сомневаюсь
10 ответов · 2908 просмотров
-
- Воздух против AIO в 2026: есть ли вообще смысл в водянке для домашнего ПК?
11 ответов · 492 просмотров
-
- Traefik vs Caddy vs Nginx Proxy Manager — что выбрать в 2026 для домашнего сервера?
8 ответов · 332 просмотров
-
-
- vLLM для домашнего сервера — есть ли смысл или это только для дата-центров?
6 ответов · 25 просмотров
-
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 1 гость