AnyNoobAI(for LoRA Training)

Modified NoobAI-XL for LoRA training.

It reduces unintended style changes.

This is not suitable for image generation.

Recommended training parameters for character/concept(sd-scripts)

Batch size: 2

Resolution: 1024

Enable aspect ratio bucketing: Yes

Min/Max bucket reso: 512/2048

Dim(Rank): 4-16

Alpha: dim * 0.25

Optimizer: RAdamScheduleFree(LR=0.0004) or CAME(LR=8E-05)

Steps: 1000-1400

Train Conv2d: No

FP8 base: Yes(for <12GB VRAM)

DO NOT USE:

--noise_offset, --zero_terminal_snr

REQUIRED(v-prediction only):

--v_parameterization

LoRA学習用のNoobAI-XLです。

意図しない画風の変化を軽減し、精度が向上します。

これでLoRAを作る場合、「--noise_offset」と「--zero_terminal_snr」は使用しないように。

v-prediction版でLoRAを作る場合、「--v_parameterization」を設定してください。

また、noise offsetの効果を打ち消したため、マージ用途の使用は推奨しません。

なお、NoobAI-XLの成分が薄いマージモデルではLoRAの効果が低下します。

copycatやparuparuなどのNoobAI-XLの成分が薄いchekpointで使用する予定なら、AnyIllustriousで学習するほうが良いと思います。

原理は不明ですが、画風を平均値に近づけ、多様性を高めることでデータセットの画風を吸収してしまうものと思われます。精度についてはZero Terminal SNR無効化により改善を確認しています。

Training information:

Finetuned NoobAI-XL by repeating the training and merging a DoRA 2 times with sd-scripts.

sd-scriptsで二回DoRAの学習とマージを繰り返すことでファインチューンされました。

Dataset information:

Dataset size: 5120 images from Gelbooru

2024年9月4日にGelbooruから新しい順に収集した5120枚の画像で学習しました。

なお、以下のタグがあるか条件を満たす画像は除外しました。

filetype:gif, score:<0, mpixels:<1048576, tagcount:<16, \*_artifacts, adversarial_noise, greyscale, monochrome, digimon, photophop_(meidum), ai-generated, duplicate, bad_\*, off-topic, cropped, resized, reversed, rotated, third-party_edit, screenshot, tagme, real_life, watermark, 3d, koikatsu_(medium), mikumikudance, twitter_username

Training script(source code)

sd-scripts

Notice/おしらせ:

This model is licensed under Fair AI Public License 1.0-SD( https://freedevproject.org/faipl-1.0-sd/ ).

If you make modify this model, you must share both your changes and the original license.

このモデルはFair AI Public License 1.0-SD( https://freedevproject.org/faipl-1.0-sd/ )でライセンスされています。

このモデルを改変する場合、変更点および元のライセンスを明記する必要があります。