Профиль пользователя ama123
💬 Темы участника — 1
- vLLM в проде падает с OOM при всплесках трафика — как правильно настроить KV-cache и batching? · Машинное обучение и Data Science · 8 ответов · 83 просмотров
🗨️ Участие в обсуждениях — 18
Темы, где участник отвечал (последние):
- Китайцы ставят 7500 мАч, а Samsung в S26 Ultra опять 5000. Жадность или физика? · Смартфоны и гаджеты · 1 сообщ.
- Поставил все сиды, а loss всё равно гуляет между запусками — кто победил недетерминизм в PyTorch? · Машинное обучение и Data Science · 1 сообщ.
- Сколько вы реально платите за коммуналку с домашней лабой на 3 сервера · Курилка и оффтоп · 1 сообщ.
- Let's Encrypt прописал санкции в соглашение, у Макса отозвали сертификат. Валить с LE или очередная паника? · Кибербезопасность и пентест · 1 сообщ.
- Как обосновать повышение зарплаты, когда вокруг сокращения и «рынок работодателя» · Карьера в IT · 1 сообщ.
- Claude Code SWE-bench 80.8% и контекст 1M — это реально чувствуется или маркетинг? · AI-ассистированная разработка · 1 сообщ.
- PyTorch vs TensorFlow 2024 что выбрать для нового проекта · Машинное обучение и Data Science · 1 сообщ.
- Принял контроффер, через 4 месяца попал под сокращение. Совпадение? · Карьера в IT · 1 сообщ.
- Увидел у тимлида белую тему в IDE и не могу развидеть. Кто кодит на светлой, объясните зачем · Курилка и оффтоп · 1 сообщ.
- Купил Mac Studio M4 Max 128гб под локальные модели и немного жалею · Локальные LLM и open-source модели · 1 сообщ.
- Сменил стек с php на go в 36 лет, история провала и что вышло в итоге · Карьера в IT · 1 сообщ.
- Claude Code рисует зеленые тесты которые ничего не проверяют. Поймал уже третий раз · AI-ассистированная разработка · 1 сообщ.
- QLoRA на одной A100 — реально дообучить Llama 3 70B или это маркетинг? · Машинное обучение и Data Science · 1 сообщ.
- Модель в проде даёт разные предсказания на одном входе, кто виноват · Машинное обучение и Data Science · 1 сообщ.
- Кресло за 60к против табуретки за 1000, объясните за что вы платите · Курилка и оффтоп · 1 сообщ.