Месяц на qwen3-coder с 4090 вместо Cursor, делюсь итогами

[theab]

надоело каждый месяц танцевать с оплатой cursor, карта казахская, периодически отлетает, плюс курс не радует. решил месяц просидеть чисто на локалке. сетап: 4090 на 24 гб, qwen3-coder-30b в q4 через llama.cpp, сверху continue в vscode плюс aider для агентских задач. скорость на коротком контексте под сотню токенов в секунду, на длинном проседает заметно.
итоги. рутина (тесты, бойлерплейт, sql, доки), тут локалка тащит процентов 80 задач не хуже. где больно: длинный контекст, после 30к все ощутимо тупеет, и многошаговые задачи, квен теряет нить на 4-5 шаге и начинает ходить кругами. в cursor возвращался два раза за месяц, оба раза на разгребание чужого легаси.
по деньгам: электричества рублей на 600 вышло. короче для одиночки с прямыми руками вариант рабочий, для команды скорее нет.

[Tcraw62981]

а почему не deepseek? у них же api копейки стоит и из рф платится без проблем

[grpc_veteran]

у них же api копейки стоит и из рф платится без проблем

тс же специально про локалку, перечитай первый абзац. но в целом да, дипсик по api сейчас самый безболезненный вариант, у меня при плотной работе выходит рублей 700-900 в месяц. нюанс один: код работодателя улетает на китайские сервера. кому-то ок, а у кого-то секьюрити за такое уволит.

[tastytim]

гонял того же квена на 3090. с контекстом 64к в врам не влез, с выгрузкой слоев в озу скорость падала до 20-25 токенов, для агентских задач мучение, каждый шаг по минуте. так что 4090 похоже минимальный порог комфорта. деградацию после 30к подтверждаю, это не настройки кривые, это сама модель

[archlord]

80 процентов задач не хуже, потому что 80 процентов твоих задач это бойлерплейт. скажи честно

[nixos69]

80 процентов задач не хуже, потому что 80 процентов твоих задач это бойлерплейт

ну да. а у кого не так? открой свой гит лог за месяц: crud, тесты, конфиги, миграции. архитектурные озарения случаются раз в квартал. именно поэтому локалка и взлетает, основная масса работы тупая и ее не жалко отдать модели послабее

[cronk]

оффтопну про железо. бу 4090 на авито сейчас 170-200к, и попадаются перепаянные из китая с кривым vbios. за эти деньги можно взять две 3090 по 65 и получить 48 гб врам, туда уже 70b в q4 влезает. для llm сборки так выгоднее