Kimi K2.5 выложили веса, триллион параметров. Опенсорс который никому не запустить

[cmout098]

Moonshot выложили K2.5, триллион параметров total, 32B активных, по бенчам наравне с закрытыми флагманами, лицензия как у K2, MIT с припиской.

И вот вопрос. В Q4 это шестьсот с лишним гигов. Скачать может любой, запустить почти никто. Энтузиаст с 24-48 гигами vram идет лесом. Раньше открытые веса означали что через неделю это крутится у тебя в подвале, теперь это пиар-ход для апи-провайдеров, смотреть можно, трогать нельзя. По мне так слово опенсорс тут уже для галочки.

[mitb3335]

Ты не понял для кого это. Открытые веса = любой хостер может поднять, через неделю десять провайдеров будут резать друг друга по цене, апи на K2 сейчас дешевле западных флагманов раз в пять именно поэтому. Плюс энтерпрайз ставит в свой контур на свои h100 и не зависит ни от кого. То что лично твоя 3090 курит в сторонке, не делает релиз бесполезным.

[radiomaker]

Прошлый K2 гонял в unsloth-овском Q2_K_XL на б/у эпике с 512 гигами ddr4, вышло 4.5 t/s. Для ночных батч-задач жить можно, с вечера ставлю очередь, утром разбираю ответы. K2.5 уже качается, отпишусь как будет что сказать.

[clickhousefan]

вышло 4.5 t/s. Для ночных батч-задач жить можно

4.5 токена в секунду в 2026 году это не жить можно, это некромантия. ответ на нормальный промпт ты ждешь десять минут, одна ошибка в промпте и минус полчаса. уважаю как спорт, но называть это рабочим инференсом язык не поворачивается

[Bowden]

Раньше открытые веса означали что через неделю это крутится у тебя в подвале

Не было такого никогда. Llama 405B дома никто не гонял, и первый Grok тоже, и ничего, мир не рухнул. Схема всегда одна: выходит гигант, через месяц-два из него режут дистиллят на 32B, и вот он уже у тебя в подвале. Из прошлого K2 дистиллят на квене получился огонь. Подожди квартал вместо нытья.

[pandas4]

душный уголок: MIT с припиской это не MIT. там пункт что при 100 млн MAU или 20 млн баксов выручки обязан светить Kimi в интерфейсе. нам с вами пофиг, но опенсорсом в строгом смысле это не является, OSI такое не пропускает