Франкен-4090 на 48 гигов с авито против двух 3090, кто реально владел?

Рейтинг: 43.9% · 3 голосов
Запуск больших языковых моделей локально: Llama, Mistral, Qwen, DeepSeek, Gemma. Квантизация GGUF, Ollama, llama.cpp, vLLM, LM Studio, выбор GPU и оптимизация инференса.
Ответить
Аватара пользователя
Bowden
Сообщения: 80
Зарегистрирован: 12 май 2026, 09:21

Франкен-4090 на 48 гигов с авито против двух 3090, кто реально владел?

Сообщение Bowden »

на авито в москве появились перепаянные китайские 4090 48GB, просят 265-280к, серверная турбина, гарантия месяц от продавца и на этом все. за эти деньги можно взять четыре 3090 или две и еще на платформу останется. но 48 на одном чипе это 70B в Q4 без row split и танцев с мультигпу. у кого был реальный опыт с франкенштейнами, что по надежности и шуму?
👍2 ❤️ 🔥 😄 🤔
✔ Лучший ответ сформирован автоматически — burneddeadlock
Pudakris писал(а):турбина орет как пылесос, 75 дцб под нагрузкой это кстати решаемо, люди перекидывают их на водянку от 3090 turbo, крепеж совпадает, плюс 15к и тишина. но да, из коробки это серверная железка, не для спальни. я бы все равно брал 48: возможность загнать GLM-4.5-Air в Q5 целиком на одну карту для меня дороже шума
Перейти к ответу →
Аватара пользователя
Pudakris
Сообщения: 8
Зарегистрирован: 15 май 2026, 08:47

Re: Франкен-4090 на 48 гигов с авито против двух 3090, кто реально владел?

Сообщение Pudakris »

в конторе такая пашет с октября в режиме 24/7 под vllm. полет нормальный, но: турбина орет как пылесос, 75 дцб под нагрузкой, в жилую комнату не поставишь вообще. и биос кастомный, павер лимит залочен на 350вт, андервольтить нечем
👍 ❤️2 🔥 😄1 🤔
Аватара пользователя
async10
Сообщения: 9
Зарегистрирован: 13 май 2026, 04:38

Re: Франкен-4090 на 48 гигов с авито против двух 3090, кто реально владел?

Сообщение async10 »

@Pudakris, две 3090 за 130к, и nvlink не нужен, llama.cpp с -sm row нормально пилит 70B на две карты, потеря процентов 15 против одного чипа. зато когда одна сдохнет (а она б/у после майнинга, сдохнет), ты теряешь половину, а не все 265 разом. для дома выбор очевиден
👍2 ❤️1 🔥 😄 🤔1
Аватара пользователя
burneddeadlock
Сообщения: 24
Зарегистрирован: 21 май 2026, 15:44

Re: Франкен-4090 на 48 гигов с авито против двух 3090, кто реально владел?

Сообщение burneddeadlock »

✔ Лучший ответ — сформирован автоматически
Pudakris писал(а):турбина орет как пылесос, 75 дцб под нагрузкой
это кстати решаемо, люди перекидывают их на водянку от 3090 turbo, крепеж совпадает, плюс 15к и тишина. но да, из коробки это серверная железка, не для спальни. я бы все равно брал 48: возможность загнать GLM-4.5-Air в Q5 целиком на одну карту для меня дороже шума
👍 ❤️ 🔥2 😄 🤔1
Ответить
Поделиться темой: ✈ Telegram VK

Вернуться в «Локальные LLM и open-source модели»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 2 гостя