mlops
Довести модель до продакшена — полдела; удержать её там живой — вот где начинается настоящая работа. Обсуждаем трекинг экспериментов в MLflow и Weights and Biases, мониторинг дрейфа данных через Evidently без дорогих SaaS, тюнинг KV-cache и батчинга в vLLM, чтобы инференс не падал с OOM на пиках трафика. Опыт людей, у которых ML-системы реально крутятся под нагрузкой, а не живут в Jupyter-ноутбуках.
5 тем, 33 ответов, 346 просмотров · все теги
Похожие теги:
monitoring 2data-drift 2mlflow 1wandb 1эксперименты 1vLLM 1inference 1production 1open-source 1pytorch 1Gemma4 1fine-tuning 1продакшн 1
- Темы
-
- vLLM в проде падает с OOM при всплесках трафика — как правильно настроить KV-cache и batching?
в «Машинное обучение и Data Science» · 8 ответов · 85 просмотров · 10 июн 2026, 13:55
-
- Мониторинг дрейфа данных в продакшн-ML: что реально работает за пределами Evidently
в «Машинное обучение и Data Science» · 5 ответов · 59 просмотров · 09 июн 2026, 19:04
-
- Fine-tuning Gemma 4 12B на своих данных — с чего начать в 2026, какой стек актуален?
в «Машинное обучение и Data Science» · 5 ответов · 48 просмотров · 09 июн 2026, 03:34
-
- Как мониторить дрейф данных в проде без Datadog и дорогих SaaS — опыт с Evidently и MLflow
в «Машинное обучение и Data Science» · 5 ответов · 60 просмотров · 08 июн 2026, 05:59
-
- MLflow или Weights and Biases для трекинга экспериментов что лучше
в «Машинное обучение и Data Science» · 10 ответов · 94 просмотров · 06 июн 2026, 17:43