Сколько реально стоит арендовать A100 и H100 в 2026 под файнтюн в СНГ

[gpu2000]

Собираю смету на файнтюн 7-8B модели под свою задачу, нужно понять сколько закладывать на аренду gpu в рублях и где брать. По рынку СНГ цены пляшут дико, у одних A100 80гб по 130 в час, у других 250, H100 вообще от 300 до 600. Кто реально арендовал последние месяцы, какие провайдеры адекватные и где подвох с этими дешёвыми ценниками.

[zfskun]

дешёвый ценник обычно это спот или комьюнити пул где машину могут отобрать в любой момент, для обучения с чекпойнтами норм, для инференса смерть. смотри на гарантию доступности а не только на цену часа.

[madem]

брали A100 80гб у immers.cloud в районе 150-170 в час на длинный резерв, vast и аналоги дешевле но это лотерея по соседям и сети. для 8B в lora одна A100 за глаза, full finetune уже захочешь 2-4 карты и nvlink.

[mattyoh]

зачем вам H100 под 8B вообще, lora на A100 закроет, переплата за хайп

[Pmannn]

зачем вам H100 под 8B вообще, lora на A100 закроет

не всегда переплата. если гоняешь много эпох или большой датасет, H100 за счёт fp8 и более жирной памяти может выйти дешевле по итоговой стоимости джоба несмотря на больший ценник в час. час дороже, а часов меньше. считать надо стоимость всего прогона а не цену тика.

[kickmybox]

реальная смета примерно так из нашего опыта на 8B. lora, датасет 200к примеров, 3 эпохи, одна A100 80гб. эпоха около 6 часов, итого 18 часов чистого обучения плюс дебаг и фейлы накидывай х2, реально набежало 35-40 часов аренды. по 160 в час это 5600-6400 рублей за весь эксперимент. но экспериментов будет не один, мы за месяц подбора гиперпараметров и чанкинга налили тысяч на 60-70. закладывайте бюджет не на один прогон а на серию, новички вечно считают один успешный ран и потом удивляются счёту. ещё момент, хранение чекпойнтов и датасета на диске тоже капает, у нас сетевой диск выходил пара тысяч в месяц, мелочь но в смете её забывают.

[andy0326]

спот реально дешевле раза в два но я задолбался ловить preemption на середине эпохи, без нормального resume с чекпойнта даже не суйтесь туда

[Vvz1995]

добавлю про подвох с трафиком, некоторые провайдеры берут за исходящий трафик отдельно, выкачать веса 16гб туда сюда несколько раз и набегает. и квоты на старте, новому аккаунту H100 могут просто не дать пока не пройдёшь верификацию, это недели бывает