DeepSeek R1 локально - кто-нибудь реально запустил полную версию дома?
Рейтинг: 62.5% · 69 голосов
Войдите, чтобы голосовать
Голосовать «За» и «Против» могут только авторизованные пользователи. Войдите в свой аккаунт — или зарегистрируйтесь, это займёт минуту.
Нет аккаунта? Зарегистрироваться
Re: DeepSeek R1 локально - кто-нибудь реально запустил полную версию дома?
✔ Лучший ответ — сформирован автоматически
Ещё момент по выбору дистиллята: R1-Distill-Qwen-32B и R1-Distill-Llama-70B — это два разных зверя по требованиям к железу. Qwen-32B в Q4_K_M влезает в 24 ГБ VRAM (одна 3090/4090) и работает шустро. Llama-70B требует уже два GPU или агрессивный оффлоад в RAM с потерей скорости. По качеству на русском языке 32B-версия на базе Qwen немного предпочтительнее — Qwen изначально лучше натренирован на многоязычность, это ощущается на задачах с переключением языков.
✔ Лучший ответ сформирован автоматически — pharside
Ещё момент по выбору дистиллята: R1-Distill-Qwen-32B и R1-Distill-Llama-70B — это два разных зверя по требованиям к железу. Qwen-32B в Q4_K_M влезает в 24 ГБ VRAM (одна 3090/4090) и работает шустро. Llama-70B требует уже два GPU или агрессивный оффлоад в RAM с потерей скорости. По качеству на русском языке 32B-версия на базе Qwen немного предпочтительнее — Qwen изначально лучше натренирован на…
Поделиться темой:
✈ Telegram
VK
- Похожие темы
-
-
-
-
-
- Бросить найм ради своего проекта: при каком MRR вы реально решились уйти с работы?
10 ответов · 2128 просмотров
-
- С чего реально начать в пентесте в 2026? TryHackMe, HTB или сразу сертификаты?
12 ответов · 2010 просмотров
Похожие запросы:
как запустить llama локальнокак запустить deepseek локальноmistral для локального запуска отзывы
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 1 гость