DeepSeek

Китайские модели DeepSeek сломали представление о том, что фронтирный уровень обязан стоить дорого: веса R1 и V4 открыты под MIT, API в разы дешевле конкурентов, а дистилляты от 8B запускаются даже на 6 ГБ VRAM. Здесь сравнивают локальный запуск с подпиской на ChatGPT, делятся конфигами под Ollama и llama.cpp и честно обсуждают, где reasoning тащит, а где захлёбывается. Пригодится всем, кто хочет мощный ИИ без зависимости от чужого облака.

8 тем, 56 ответов, 4016 просмотров · все теги

Похожие теги: LLM 4open-source 2Qwen 1Ollama 1квантизация 1vram 1открытые-модели 1нейросети 1API 1новости 1
  • Темы
Популярные запросы по теме: как запустить deepseek локальноmistral для локального запуска отзывыкак запустить llama локальнолучшая локальная llm для кодаqwen vs llama что лучшемиграция на postgresql без даунтайма как перенести базу · все запросы →