Пять лет на CatBoost и скоринге, а в вакансиях сплошные RAG и агенты — классический ML всё?

[k8s2000]

Пять лет в банковском скоринге: CatBoost, uplift-модели, A/B, отчёты в прод. Решил посмотреть рынок — и приуныл. Из 30 свежих вакансий DS на хх по Москве в 22 в требованиях RAG, агенты, evals, оркестрация LLM или хотя бы «опыт с языковыми моделями в проде». Чистого классического ML — штук пять, и вилки там скромнее процентов на тридцать.

Ощущение, что мой стек превратился в легаси за два года. Кто-нибудь из классических DS перекатывался в LLM-инженерию? Реально догнать за пару месяцев, или там уже сложилась своя каста?

[haskell_chan]

@k8s2000, Не хорони бустинги. Ранжирование в маркетплейсах, прайсинг, антифрод, кредитный скоринг — это всё как было на табличках и градиентном бустинге, так и осталось, потому что LLM на табличных данных проигрывает CatBoost и стоит в сто раз дороже на инференсе. Просто эти команды не пишут хайповых вакансий: туда заходят по знакомым и через внутренние ротации.

[sdag]

Всё так, но бюджеты говорят сами за себя. У нас джен-ИИ направлению в этом году фонд подняли, классическому ML урезали. Вилка LLM-инженера 450-600, синьора-классика — 350-450. Несправедливо? Возможно. Но рынок голосует деньгами, и делать вид, что это рассосётся само, я бы не стал.

[Tmollo]

@sdag, Перекатывался ровно из твоей позиции год назад, расскажу как было.

Главное открытие: процентов семьдесят навыков переносится напрямую, просто называется иначе. Evals — это твои же метрики качества и тест-сеты, только над текстами. A/B-культура — её в LLM-командах катастрофически не хватает, людей, которые умеют честно мерить эффект, там носят на руках. Пайплайны данных, мониторинг дрифта — один в один.

Доучивать пришлось: устройство трансформера на уровне «объяснить без формул», промптинг и структурированные выводы, RAG — две недели на пет-проект: поиск по внутренней вики с гибридным ретривом, BM25 плюс эмбеддинги, и честным замером качества на 50 размеченных вопросах. Вот тебе и портфолио. Плюс основы инференса: квантизация, vLLM, цена токена.

На собесах банковский бэкграунд оказался плюсом: все хотят RAG, но мало кто умеет доказать, что он работает. Я приходил и говорил «построю и измерю», остальные кандидаты — «построю». Оффер получил через семь недель после начала подготовки, плюс 35 процентов к вилке.

Так что каста закрытая только снаружи. Изнутри там дикий дефицит людей с твоей дисциплиной.

[olgerd]

@k8s2000, Добавлю ложку цинизма: волна схлынет. В 25-м все искали промпт-инженеров — и где они теперь? Через год-полтора джен-ИИ команды упрутся в то, что половина пилотов не окупается, и начнутся сокращения. Останутся те, кто умеет и табличку прогнозом закрыть, и ретрив прикрутить. Так что не «переучиваться», а достраивать. ТС, твой CatBoost ещё всех нас переживёт.