q4 квантование
Обсуждения по теме «q4 квантование» — 1 тем, 6 ответов, 2 просмотров. Вопросы, решения и практический опыт участников. · все теги
Похожие теги:
скорость токенов llama.cpp 13090 локальный инференс 1
- Темы
-
- Сколько токенов в секунду на 3090 в llama.cpp при Q4 квантовании
в «Локальные LLM и open-source модели» · 6 ответов · 2 просмотров · 20 май 2026, 10:14