Ollama
Обсуждения по теме «Ollama» — 10 тем, 57 ответов, 2808 просмотров. Вопросы, решения и практический опыт участников. · все теги
Похожие теги:
LLM 3llama.cpp 3vLLM 3GPU 2C++ 1Self-hosting 1windows 1DeepSeek 1квантизация 1vram 1modelfile 1промпт 1настройка 1ram 1бенчмарки 1
- Темы
-
- Ollama после обновления стала жрать в 2 раза больше RAM, у кого так же?
в «Локальные LLM и open-source модели» · 0 ответов · 5 просмотров · Пн июн 08, 2026 7:39 am
-
- Ollama как настроить системный промпт и параметры генерации ✓ Решено
в «Локальные LLM и open-source модели» · 6 ответов · 9 просмотров · Сб июн 06, 2026 10:51 am
-
- GPU в простое жрёт VRAM и 70 ватт, хотя ничего не крутится
в «Локальные LLM и open-source модели» · 4 ответов · 289 просмотров · Сб июн 06, 2026 6:43 am
-
- Неделю дебажил 'тупую' модель, а это Ollama резала контекст до 2048
в «Локальные LLM и open-source модели» · 6 ответов · 493 просмотров · Сб июн 06, 2026 1:22 am
-
- vLLM vs Ollama vs TGI для self-hosted инференса — что в проде у вас?
в «Машинное обучение и Data Science» · 9 ответов · 819 просмотров · Пт июн 05, 2026 8:28 pm
-
- Ollama не видит GPU на Windows 11 что делать ✓ Решено
в «Локальные LLM и open-source модели» · 6 ответов · 9 просмотров · Пт июн 05, 2026 7:34 pm
-
- AWQ или GPTQ для vLLM в 2026, и причём тут вообще GGUF
в «Локальные LLM и open-source модели» · 8 ответов · 411 просмотров · Чт июн 04, 2026 4:11 pm
-
- Ollama vs llama.cpp напрямую — реально ли 23% разница в скорости или маркетинг?
в «Локальные LLM и open-source модели» · 6 ответов · 9 просмотров · Пн июн 01, 2026 12:21 pm
-
- DeepSeek R1 8B на 6GB VRAM запустить реально или нет ✓ Решено
в «Локальные LLM и open-source модели» · 5 ответов · 8 просмотров · Пт май 22, 2026 2:49 am
-
- Ollama vs llama.cpp vs vLLM - что выбрать в 2026, запутался окончательно
в «Локальные LLM и open-source модели» · 7 ответов · 756 просмотров · Чт май 21, 2026 3:30 am