Купил две Tesla P40 на авито и пожалел, рассказываю почему

Рейтинг: 43.9% · 3 голосов
Запуск больших языковых моделей локально: Llama, Mistral, Qwen, DeepSeek, Gemma. Квантизация GGUF, Ollama, llama.cpp, vLLM, LM Studio, выбор GPU и оптимизация инференса.
Ответить
Аватара пользователя
tommee
Сообщения: 64
Зарегистрирован: 11 май 2026, 02:37

Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение tommee »

Короче история. В апреле увидел на авито P40 по 16500 за штуку, продавец из Новосиба, лот распродают с фермы. Подумал, 48 гигов врама за 33к, да я гений. Взял две.

Что в итоге. Во-первых охлаждение. Карты серверные, пассивные, без продува из корпуса греются до 90 за минуту. Напечатал переходники на 3д принтере, поставил два вентиля дельта по 800р, воют как самолет на взлете. Комп переехал из комнаты в кладовку.

Во-вторых питание. Разъем там EPS 8pin а не PCIe, нужны переходники, плюс БП пришлось менять на киловаттник, еще минус 9к.

В-третьих, главное. Паскаль не умеет нормальный fp16, 1/64 от fp32. Exllama не работает вообще. Остается llama.cpp, и там Qwen3-32B Q4_K_M дает 8.5 t/s генерации и около 140 t/s обработки промпта. На длинном контексте первый токен ждешь минуту.

Итого вложил под 50к и получил скорость, которую одна 3090 с того же авито за 60к делает втрое быстрее. Одну карту уже продал обратно за 15к. Не повторяйте.
👍1 ❤️ 🔥2 😄 🤔
✔ Лучший ответ сформирован автоматически — gowizard
@ramdisk84 MI50 это отдельный вид мазохизма. AMD ее из официального ROCm выкинула, сидишь на старом стеке или на вулкане, и любой апдейт ядра это лотерея. Я свою продал через месяц, нервы дороже. По теме: у P40 один сценарий жизни остался, 70B Q4 на двух картах за копейки. 4-5 t/s, медленно, но 3090 такое вообще не запустит без выгрузки в RAM. Если задача именно влезть в большую модель, оно еще д…
Перейти к ответу →
Аватара пользователя
icu2
Сообщения: 65
Зарегистрирован: 14 май 2026, 06:04

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение icu2 »

так про p40 все было разжевано еще в 2023, миллион постов. ты в 2026 покупаешь паскаль и удивляешься что он паскаль. ну камон
👍 ❤️ 🔥 😄 🤔
Аватара пользователя
Macrano
Сообщения: 59
Зарегистрирован: 11 май 2026, 06:55

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение Macrano »

А чего не MI50 32gb? Они сейчас по 13-14к, память HBM2, по пропускной способности P40 и рядом не стояла. На вулкан бэкенде llama.cpp вполне едут.
👍2 ❤️ 🔥 😄 🤔
Аватара пользователя
gowizard
Сообщения: 16
Зарегистрирован: 13 май 2026, 19:47

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение gowizard »

✔ Лучший ответ — сформирован автоматически
@ramdisk84 MI50 это отдельный вид мазохизма. AMD ее из официального ROCm выкинула, сидишь на старом стеке или на вулкане, и любой апдейт ядра это лотерея. Я свою продал через месяц, нервы дороже.

По теме: у P40 один сценарий жизни остался, 70B Q4 на двух картах за копейки. 4-5 t/s, медленно, но 3090 такое вообще не запустит без выгрузки в RAM. Если задача именно влезть в большую модель, оно еще дышит. Для всего остального труп.
👍 ❤️ 🔥 😄1 🤔
Аватара пользователя
tollie
Сообщения: 38
Зарегистрирован: 12 май 2026, 02:48

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение tollie »

продавец из новосиба с фермы? P40 в майнинге почти не использовались, они скорее из списанных цодов. но это мелочь да
👍 ❤️2 🔥 😄 🤔
Аватара пользователя
nixos_andy
Сообщения: 61
Зарегистрирован: 11 май 2026, 03:44

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение nixos_andy »

@tollie, скинь модельку переходника под вентилятор, плз. у меня M40 с такой же бедой лежит
👍 ❤️ 🔥 😄 🤔
Аватара пользователя
corvet
Сообщения: 38
Зарегистрирован: 16 май 2026, 06:36

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение corvet »

M40 в 2026, серьезно? это уже не некробилд, это спиритический сеанс
👍 ❤️ 🔥 😄 🤔
Аватара пользователя
Kutz
Сообщения: 71
Зарегистрирован: 16 май 2026, 02:21

Re: Купил две Tesla P40 на авито и пожалел, рассказываю почему

Сообщение Kutz »

@icu2, Правило простое и оно не меняется года три. Меньше 3060 12gb не брать вообще. P40/P100 только если осознанно хочется поиграться и руки чешутся. Оптимум по цене сейчас б/у 3090 за 55-65к, все остальное компромиссы с примечаниями мелким шрифтом. ОП по сути заплатил 10к за этот урок, бывает дороже.
👍 ❤️1 🔥1 😄 🤔
Ответить
Поделиться темой: ✈ Telegram VK

Вернуться в «Локальные LLM и open-source модели»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 2 гостя