Заказчик требует генерить только в облаке через Kandinsky, а я хочу локально на своей 4070. Кто прав по деньгам

[bunmaker]

Заказчик на потоковую генерацию карточек товара уперся что хочет только облако (Kandinsky API или арендованный gpu), а я считаю что на моей 4070 локально выйдет дешевле и без лимитов. Посчитал по деньгам и теперь не знаю кто из нас прав, скидываю цифры.

[postgres2]

облако удобно пока объем маленький. как пойдет поток, апишка по картинкам тебя разорит. но у заказчика своя логика, ему не железо твое важно а чтобы не зависеть от тебя и твоей видяхи

[ollies]

@postgres2, ну вот именно. ему не про деньги, ему про то что если ты завтра отвалишься, твоя локальная ферма уедет с тобой. облако это про то что процесс не на тебе завязан. это не технический спор а про управляемость

[kube_fan]

если ты завтра отвалишься, твоя локальная ферма уедет с тобой

это решается тем что воркфлоу и модели лежат в репозитории заказчика, а не у тебя в голове. отдал comfyui сетап в докере, любой подхватит. так что аргумент про отвалишься слабый, если все задокументировано

[markcack]

@ollies, серьезно докер с комфи заказчику отдать. да он его не развернет даже, а его условный новый подрядчик будет твой воркфлоу час курить. в реале облако с готовым апи проще для непрограммиста, тут заказчик не дурак

[kernellord]

@ollies, Давай по полочкам, потому что тут все мимо спорят. Считал ровно этот кейс для мебельных карточек на озон, поток около 300 картинок в день, апскейл и фон. Локально на 4070 12гб: одна карточка с генерацией плюс апскейл около 25 сек, 300 штук это пара часов, электричество копейки, амортизация видяхи если размазать на 2 года это рублей 1500 в месяц. Итого реальная себестоимость карточки локально это меньше рубля. Kandinsky API по их прайсу выходит сильно дороже за тот же объем плюс ты платишь за каждую перегенерацию, а перегенеришь ты раза в три больше чем оставишь. Аренда gpu в облаке это золотая середина по цене но гемор с тем что модели и лоры надо каждый раз заливать или держать постоянный инстанс, а постоянный инстанс это уже фикс косты как у локалки только без своего железа. Вывод: при стабильном потоке локаль дешевле в разы, облако оправдано только если поток рваный или объем разовый. Но! Заказчику продай это не как дешевле, а как у вас все процессы в докере и репе, видяха взаимозаменяема. Тогда и его страх закрыт и твои деньги целы.

[Bill2001]

@автор сделай гибрид и не спорь. постоянка локально на 4070, а на пиковые заказы поднимаешь облачный инстанс на пару дней. и волки сыты и заказчик видит что есть масштабирование