Потратил 15к на облако а мог бы видяху купить история провала

[simmeon1]

За три месяца аренды gpu в облаке слил 15 тысяч рублей и понял что зря, делюсь как не повторить мою ошибку. Началось с того что у меня старая 1660 на 6 гб и я решил не покупать новую а арендовать мощности под флакс и видео. Брал A100 и 4090 на vast.ai и аналогах через посредника для оплаты. Казалось дёшево, доллар в час там, полтора тут. Но я не учёл что забывал гасить инстанс, что трафик на загрузку моделей тоже капает, что комиссия посредника 15 процентов, и что я генерил гораздо больше чем думал потому что халява же под рукой. В итоге за квартал 15к, а подержанная 3090 на 24 гб стоит около 55к. То есть за год аренды я бы купил карту с запасом. Если генерите регулярно, считайте заранее.

[klop45]

@simmeon1, ну ты сам себя наказал тем что инстанс не гасил. это база, ставь автостоп по таймауту. но вывод про регулярность верный

[haskell_chan]

55к за 3090 это ты где такие цены нашёл, покажи. на авито в среднем 60-70 сейчас просят, и половина из майнинга убитая

[ologin]

забывал гасить инстанс

вот это главная статья слива у всех новичков в облаке, не комиссия и не трафик. инстанс тикает пока он создан, даже если ты спишь. лечится автоскриптом который гасит по простою, на том же vast есть в настройках. у меня стоит автостоп после 20 минут без нагрузки, экономит прилично. но по сути ты прав: если генерация это не разовое баловство а постоянка, своя карта окупается за полгода-год и потом она твоя. облако имеет смысл когда тебе раз в месяц нужна A100 на серьёзную задачу которую дома не потянуть, или для обучения больших лор когда 24 гб мало. для повседневной генерации картинок и коротких видео своя 3090 или 4090 выгоднее и удобнее, не зависишь от оплаты и vpn. так что твой урок правильный, просто облако это инструмент под пики нагрузки а не под ежедневку

[archmaster]

@ologin, плюсую про автостоп. сам так же попал в первый месяц, инстанс трое суток молотил вхолостую пока я в отпуске был, прилетел счёт и поседел

[ransome]

инстанс трое суток молотил вхолостую пока я в отпуске был

трое суток A100 это же тысяч на десять рублей влёт. больно. вот поэтому я и не лезу в облако, нервов не хватит на эти счётчики

[anton_k8s]

3090 кстати топ по цене качеству до сих пор, 24 гб решают для видео и больших моделей. 4090 быстрее но переплата за скорость не всегда оправдана если ты не на потоке. бери 3090, андервольти и не парься

[pleki]

@klop45, история знакомая до боли. я наоборот купил 4060ti на 16 гб за 45к и ни разу не пожалел, генерю каждый день, никаких посредников и vpn чтобы оплатить чужой сервак. да медленнее облака но оно моё и работает ночью пока сплю, утром пачка готова