длинный контекст llm
Обсуждения по теме «длинный контекст llm» — 2 тем, 14 ответов, 7 просмотров. Вопросы, решения и практический опыт участников. · все теги
Похожие теги:
деградация на длинном контексте 1локальные модели контекст 1kv кэш квантизация 1экономия видеопамяти 1flash attention 1
- Темы
-
- Контекст 128к на локалке жрет всю видеопамять, как ужать KV-кэш
в «Локальные LLM и open-source модели» · 7 ответов · 3 просмотров · 17 май 2026, 13:57
-
- Контекст 128к заявлен а на 40к модель уже плывёт, это норма?
в «Локальные LLM и open-source модели» · 7 ответов · 4 просмотров · 14 май 2026, 18:58