kv cache
Обсуждения по теме «kv cache» — 2 тем, 12 ответов, 10 просмотров. Вопросы, решения и практический опыт участников. · все теги
- Темы
-
- Заявленные 128k контекста это сказки, после 40k модель тупеет на глазах
в «Локальные LLM и open-source модели» · 5 ответов · 5 просмотров · 27 май 2026, 05:37
-
- 256к контекста в карточке модели, а после 60к каша. Кто-нибудь реально пользуется длинным контекстом?
в «Локальные LLM и open-source модели» · 7 ответов · 5 просмотров · 17 май 2026, 07:22