AMD显卡利用ONNX玩转AI绘画
懒人整合包已经发布：
【AI绘画】AMD显卡专用Stable Diffusion ONNX懒人整合包_哔哩哔哩_bilibili
下载地址：
链接：https://pan.baidu.com/s/1rOnI9mG5uXQecRPVvxj1Hw?pwd=azh4
提取码：azh4
本专栏请结合我投稿的视频一起观看：
最近AI绘画软件Stable Diffusion很火爆，但是AMD显卡用户用起来很不舒服，于是查阅了开源社区的一些资料，参考Stable-Diffusion-ONNX-FP16项目写了这篇专栏，希望能帮到A卡用户
项目网址：https://github.com/Amblyopius/Stable-Diffusion-ONNX-FP16
具体步骤和命令
0. 准备魔法上网，否则网络可能会很慢或者连不上
1. 安装git, https://gitforwindows.org/
2. 安装python 3.10, https://www.python.org/downloads/
#安装python的时候记得把"add python.exe to PATH"打勾
3. 检查是否成功安装以及环境变量是否正确设置
git --version
python --version
pip --version
4. 安装所需环境
4.1 clone本项目
git clone https://github.com/Amblyopius/Stable-Diffusion-ONNX-FP16
进入项目文件夹
cd Stable-Diffusion-ONNX-FP16
4.2 安装虚拟环境
pip install virtualenv
python -m venv sd_env
激活虚拟环境命令，下次使用也要先激活虚拟环境，再启动UI界面
sd_env\scripts\activate
4.3 安装python依赖包
python -m pip install --upgrade pip
#项目文件夹里的requirements.txt增加一个accelerate
pip install -r requirements.txt
5. 登录huggingface账号
huggingface-cli login
token申请地址：https://huggingface.co/settings/tokens
6. 转换本地模型到onnx模型
假设已经从https://www.civitai.com/上下载了chilloutmix_NiPrunedFp16Fix到本地
创建文件夹存放ONNX模型
mkdir model
执行以下命令转换
python conv_sd_to_onnx.py --model_path ".\civitai\chilloutmix_NiPrunedFp16Fix.safetensors" --output_path "./model/chilloutmix-fp16" --ckpt-original-config-file v1-inference.yaml --fp16
测试生成图像
python test-txt2img.py --model "model\chilloutmix-fp16" --size 512 --seed 0
7. 转换并下载在线模型到onnx模型
python conv_sd_to_onnx.py --model_path "stabilityai/stable-diffusion-2-1-base" --output_path "./model/sd2_1base-fp16" --fp16
8. 有的模型需要单独的vae，应该怎么替换？
可以在模型转换的命令行中增加--vae_path参数来指定vae路径
比如sd 1.5模型，想用mse VAE，转换命令如下：python conv_sd_to_onnx.py --model_path "runwayml/stable-diffusion-v1-5" --output_path "./model/sd1_5-fp16-vae_fmsese" --vae_path "stabilityai/sd-vae-ft-mse" --fp16
如果这个vae是包含在模型里的，可以在模型后加/vae来指定，比如还是sd 1.5模型，但是想用anything-v3的vae，转换命令如下：python conv_sd_to_onnx.py --model_path "runwayml/stable-diffusion-v1-5" --output_path "./model/sd1_5-fp16-vae_anythingv3" --vae_path "Linaqruf/anything-v3.0/vae" --fp16
9. 安装GUI界面
git clone https://github.com/azuritecoin/OnnxDiffusersUI
python OnnxDiffusersUI\onnxUI.py
10. 修改cache目录
系统环境变量里添加一个HF_HOME，填写自己想要存放cache的路径