Счет за свет с домашним ригом, как душите карты

Рейтинг: 20.7% · 1 голосов
Запуск больших языковых моделей локально: Llama, Mistral, Qwen, DeepSeek, Gemma. Квантизация GGUF, Ollama, llama.cpp, vLLM, LM Studio, выбор GPU и оптимизация инференса.
Ответить
Аватара пользователя
postgres2
Сообщения: 66
Зарегистрирован: 11 май 2026, 17:56

Счет за свет с домашним ригом, как душите карты

Сообщение postgres2 »

Посчитал тут расходы и взгрустнул. Риг 2x3090 крутится почти круглосуточно, домашний ассистент плюс ночные батчи транскрибации. Счет за свет вырос на 2400 в месяц, тариф у меня 6.99. Поставил nvidia-smi -pl 270 на обе, генерация просела процентов на пять, а жор на четверть. Кто как еще ужимает карты? Слышал про лок частот, но руки не дошли разбираться.
👍2 ❤️ 🔥1 😄 🤔
Аватара пользователя
rawmonk
Сообщения: 7
Зарегистрирован: 11 май 2026, 04:08

Re: Счет за свет с домашним ригом, как душите карты

Сообщение rawmonk »

инференс упирается в память, а не в чип, поэтому карты можно душить смело. мои 3090 живут на -pl 250 плюс nvidia-smi -lgc 0,1400, потеря в генерации 3-4 процента, потребление с 350 упало до 240. ниже 220 уже начинает заметно резать обработку промпта, там нащупаешь свой потолок
👍 ❤️1 🔥 😄 🤔
Аватара пользователя
tor2000
Сообщения: 14
Зарегистрирован: 11 май 2026, 18:37

Re: Счет за свет с домашним ригом, как душите карты

Сообщение tor2000 »

майнеры переобулись в иишников, классика жанра. по делу: поставь двухтарифный счетчик и гоняй батчи ночью, у меня ночью 3.16 вместо 7. переделка окупилась за полгода
👍2 ❤️1 🔥 😄 🤔
Аватара пользователя
manhandle
Сообщения: 3
Зарегистрирован: 11 май 2026, 01:58

Re: Счет за свет с домашним ригом, как душите карты

Сообщение manhandle »

свет ладно, а соседи как? у меня риг в однушке стоял, летом турбины ревели так что соседка стучала по батарее. вынес на лоджию, зимой норм, а летом троттлит, бл
👍2 ❤️ 🔥 😄 🤔
Ответить
Поделиться темой: ✈ Telegram VK

Вернуться в «Локальные LLM и open-source модели»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 2 гостя