квантизация
Обсуждения по теме «квантизация» — 3 тем, 16 ответов, 32 просмотров. Вопросы, решения и практический опыт участников. · все теги
- Темы
-
- Как конвертировать модель в GGUF формат для llama.cpp ✓ Решено
в «Локальные LLM и open-source модели» · 6 ответов · 11 просмотров · Пн июн 01, 2026 10:52 am
-
- Какую квантизацию GGUF выбрать в 2026 — Q4_K_M уже не универсальный ответ?
в «Локальные LLM и open-source модели» · 5 ответов · 10 просмотров · Сб май 23, 2026 2:14 am
-
- DeepSeek R1 8B на 6GB VRAM запустить реально или нет ✓ Решено
в «Локальные LLM и open-source модели» · 5 ответов · 11 просмотров · Пт май 22, 2026 2:49 am