Лучшая локальная модель под код в 2026 - Qwen2.5-Coder всех уделал?

Теги: #Qwen
Рейтинг: 37% · 36 голосов
Запуск больших языковых моделей локально: Llama, Mistral, Qwen, DeepSeek, Gemma. Квантизация GGUF, Ollama, llama.cpp, vLLM, LM Studio, выбор GPU и оптимизация инференса.
Аватара пользователя
theopal
Сообщения: 21
Зарегистрирован: 11 май 2026, 13:27

Re: Лучшая локальная модель под код в 2026 - Qwen2.5-Coder всех уделал?

Сообщение theopal »

По поводу SQL от lera_cache57 — полностью согласен, разница между Coder и базовым Instruct на оконных функциях ощутимая. Добавлю ещё: на сложных миграциях с несколькими ALTER TABLE и зависимостями между ними 32B Coder генерирует рабочие скрипты заметно лучше, чем аналогичные по размеру Instruct-модели. Там где Instruct начинает путаться в порядке операций, Coder держит логику до конца.
👍 ❤️1 🔥2 😄 🤔1
✔ Лучший ответ сформирован автоматически — gdgdgd
@Omoto, связка 7B для инлайна и 32B для чата звучит разумно, но у меня немного другой опыт по железу: на ноуте даже 7B в Q4_K_M при FIM начинает тупить если контекст файла больше 2-3 тысяч токенов — суммарная задержка до первого токена уже заметна в редакторе. Помогает держать 7B в Q2_K или использовать отдельную маленькую модель типа Qwen2.5-Coder 1.5B именно для автокомплита, а 7B уже для…
Перейти к ответу →
Ответить
Поделиться темой: ✈ Telegram VK
Похожие запросы: qwen vs llama что лучшекак запустить deepseek локальноmistral для локального запуска отзывылучшая локальная llm для кода

Вернуться в «Локальные LLM и open-source модели»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 1 гость