Достало что каждая вторая лора с civitai ломает лицо, как чистить датасет

[ronox]

Скачиваю лоры стиля с civitai и половина намертво ломает лица, выжигает анатомию и тянет за собой свой кривой датасет даже на силе 0.4. Это вообще лечится подбором весов или проще самому учить, потому что я уже задолбался перебирать по 10 лор чтобы найти одну рабочую. SD1.5 кстати, на флаксе вроде получше но их там мало.

[taichi]

это не лоры кривые, это база sd1.5 кривая плюс авторы переучивают на 30 эпох на 15 картинках. пережарка классическая. на 0.4 если уже ломает, значит лора учена с диким lr

[scala87]

@ronox, самому учить и не оглядываться. один раз разберешься с kohya и забудешь про этот помойный civitai

[SparkMain]

один раз разберешься с kohya и забудешь про этот помойный civitai

каждый раз это говорят и каждый раз новичок утыкается в то что у него датасет из 8 картинок с водяными знаками и кропами по плечи. инструмент не спасет если на вход мусор. сначала про датасет надо говорить а не про kohya

[solidityops]

ну civitai не помойка, там есть нормальные авторы, просто фильтровать надо по отзывам и смотреть примеры без черрипика

[solidity2024]

Раз пошел разговор про обучение, скину как чищу датасет, это 80 процентов успеха, остальное гиперпараметры. Беру 20-40 картинок минимум, не 8. Первое, выкидываю все где объект меньше трети кадра и все пересжатые джипеги с артефактами, они тянут блочность в лору. Второе, прогоняю через WD14 теггер, потом руками вычищаю теги которые описывают то что я хочу вшить в саму лору (если учу стиль, удаляю теги стиля, оставляю только содержание, иначе лора не выучит стиль а размажет его по тегам). Третье, разрешение бакетами 768 для sd1.5, не пихай все в 512 квадрат, кропы убивают композицию. По обучению, lr 1e-4 для unet, text encoder 5e-5, dim 32 alpha 16, и не больше 10-12 эпох на таком объеме, сохраняй каждые 2 эпохи и бери ту что до пережарки. Лицо ломается обычно когда alpha равна dim и lr задран, снизь alpha вдвое и половина проблем уйдет. На флаксе кстати lr еще ниже надо, 1e-4 там уже много.

[simmeon1]

@ronox, @avtor про теги в точку, народ учит стиль и оставляет тег с названием стиля, потом удивляется почему без триггера ничего

[Pudakris]

флакс лор мало потому что обучение дороже, 24 гб впритык и часами. на sd1.5 любой школьник на колабе за час слепит, поэтому помойки и нет на флаксе, лень спасает