Облачные GPU подорожали стоит ли собирать локальную машину под генерацию

[tinkus]

Аренда GPU в облаке за полгода выросла прилично, и я считаю что под постоянную генерацию пора собирать свою машину, но не уверен в окупаемости. Брал A100 и 4090 по часам у пары провайдеров, раньше 4090 выходила условно по 40-50р в час, сейчас ближе к 70-90 в зависимости от площадки, плюс спот инстансы вечно заняты. Гоняю генерацию плотно, часов 5-6 в день, статика плюс начал лезть в видео. По грубым прикидкам своя 3090 или 4090 окупится за полгода-год. Кто перешёл с облака на локалку, не пожалели, и что по факту вылезает помимо цены самой карты, шум, нагрев, простои.

[wasm777]

@tinkus, перешёл год назад, не пожалел ни секунды. главное что вылезает это не шум а свобода не считать часы. в облаке ты постоянно в голове тикаешь таймер и торопишься, дома сел и сидишь хоть всю ночь экспериментируешь. это меняет сам подход к работе

[mstrbates]

@tinkus, 3090 бу сейчас 55-65к, 4090 за 150+ если новую. для видео бери 24гб не думая, на 16 настрадаешься с oom. окупаемость при твоих 5-6 часах в день очевидная, года не пройдёт

[go9]

шум и тепло реально вылезают, не игнорируй. 4090 под нагрузкой греет комнату как обогреватель, летом без кондея жесть. и блок питания бери с запасом, на 4090 минимум 850вт качественный, иначе ребуты словишь в самый интересный момент

[nginxsmith]

свою машину, но не уверен в окупаемости

ты её уже обосновал в собственном посте, 5-6 часов в день при 80р в облаке это 400-480р в день, под 13к в месяц. 3090 за 60к отбивается за пять месяцев и дальше работает в плюс несколько лет. чего тут думать. единственный честный аргумент против локалки это если тебе позарез нужна A100 80гб под что то конкретное чего на 24гб не сделать, вот тогда облако оправдано точечно. для твоего профиля статика плюс видео своя 3090/4090 это решённый вопрос, бери бу 3090 если бюджет жмёт, разницы в качестве с 4090 нет, только в скорости

[grahamd]

не забудь что бу 3090 это лотерея, майнерские карты с убитой памятью встречаются. бери с проверкой под нагрузкой и тестом памяти, не на эмоциях

[streamd]

@vexx плюсую про память. гоняй memtest_vulkan хотя бы час перед покупкой, и смотри температуры памяти, если за 100 градусов под нагрузкой значит термопрокладки уже мёртвые, торгуйся или беги

[lonelygoblin]

а я остался в облаке и доволен. да дороже стало, но мне не надо думать про апгрейд, про поломки, про то что карта через два года устареет. заплатил за часы и забыл. для нерегулярной нагрузки облако всё ещё разумнее, локалка отбивается только при плотном ежедневном гоне как у топикстартера

[joed13]

@tinkus, оффтоп но раньше можно было на распродажах хватать дешёвые споты ночью, сейчас и ночью всё занято, нагенерили все разом походу