Skip to content

进阶文档‐推理加速

yjjinjie edited this page Sep 22, 2023 · 1 revision

1、Controlnet Cache

Stable Diffusion会在每次预测的时候重新加载所有的controlnet,这非常耗费时间,在这里将controlnet设为cache模式,由于使用了4个controlnet,可以将值设置为大于等于4,可以减少大量的加载时间。

image

2、Xformers使用

开启时使用--xformers可以启动xformers节省显存与加快预测速度。

python launch.py --xformers

3、预设Stable Diffusion与VAE模型修改

EasyPhoto会在每次预测时检查基底模型,如果基底模型与EasyPhoto插件所选择的模型一样,则不会再次加载,如果不一样则会去加载EasyPhoto插件所选择的模型; VAE同理; EasyPhoto的SD基底模型是Chilloutmix-Ni-pruned-fp16-fix.safetensors,VAE模型默认为vae-ft-mse-840000-ema-pruned.ckpt。

image