vllm настройка проблемы
Обсуждения по теме «vllm настройка проблемы» — 1 тем, 7 ответов, 3 просмотров. Вопросы, решения и практический опыт участников. · все теги
Похожие теги:
vllm vs llama.cpp 1тензор параллелизм 2x3090 1
- Темы
-
- Угробил выходные на vLLM ради тензор параллелизма и откатился на llama.cpp
в «Локальные LLM и open-source модели» · 7 ответов · 3 просмотров · 24 май 2026, 08:44