бенчмарки
Цифры против маркетинга вот суть этого раздела. Здесь гоняют замеры скорости и качества моделей: правда ли Ollama медленнее чистого llama.cpp на заявленные 23 процента, стоит ли Gemma 4 26B менять привычные Mistral и Qwen, и кто умнее на деле 70B в агрессивном кванте IQ2_XXS или компактная 14B в Q6. Обсуждают методологию, ловушки синтетики и расхождение бенчей с реальными задачами. Незаменимо тем, кто выбирает локальную LLM или железо и устал верить пресс-релизам на слово.
3 тем, 22 ответов, 186 просмотров · все теги
- Темы
-
- Gemma 4 26B от Google — стоит ли менять Mistral/Qwen или переоценённый хайп?
в «Локальные LLM и open-source модели» · 8 ответов · 83 просмотров · 10 июн 2026, 16:41
-
- Ollama vs llama.cpp напрямую — реально ли 23% разница в скорости или маркетинг?
в «Локальные LLM и open-source модели» · 6 ответов · 67 просмотров · 01 июн 2026, 15:21
-
- 70B в IQ2_XXS против 14B в Q6, кто на самом деле умнее
в «Локальные LLM и open-source модели» · 8 ответов · 36 просмотров · 14 май 2026, 02:59