对比lora训练,faceID,intantID,IPA,在人脸风格的迁移上,是目前AI换脸的主要方式。而最新出的InstantID,只需单个图像即可实现ID保留生成,相似度极高。
InstantID,主要是使用 ControlNet 和 IP-Adapter 的组合来控制扩散过程中的面部特征。
InstantID 同时支持 WebUI 和 ComfyUI。
支持官方提供的8种风格,还可与PhotoMaker Styler通用。
非官方项目地址:https://github.com/ZHO-ZHO-ZHO/ComfyUI-InstantID
项目地址:https://github.com/cubiq/ComfyUI_InstantID/blob/main/README.zh-CN.md
推荐使用 ComfyUI Manager管理器安装,安装完成后重启comfyui。
- models/ipadapter
- models/loras
- models/clip_vision
- models/insightface/models/antelopev2
- models/controlnet
- models/instantid
注意事项:
-
使用InstantID需安装InsightFace 模型(所有换脸的插件都需要)
-
需使用 SDXL 系列模型
-
显存要求高,至少12G显存
下载模型文件,放入 InstantID 的插件目录下:
模型目录
- models/ipadapter
ComfyUIcustom_nodesComfyUI-InstantIDcheckpoints
-
下载 InstantID/ControlNetModel 中的 config.json 和 diffusion_pytorch_model.safetensors ,将模型地址填入 📷ID ControlNet Loader 节点中(例如:ComfyUI/custom_nodes/ComfyUI-InstantID/checkpoints/controlnet)
-
下载 InstantID/ip-adapter 中的 ip-adapter.bin ,将其地址填入 Ipadapter_instantid Loader 节点中(例如:ComfyUI/custom_nodes/ComfyUI-InstantID/checkpoints)
-
下载 DIAMONIK7777/antelopev2 中的所有模型,将其放入 ComfyUI//custom_nodes/ComfyUI-InstantID/models/antelopev2 中
controlnet模型:
https://huggingface.co/InstantX/InstantID/tree/main/ControlNetModel
ipadapter模型:
https://huggingface.co/InstantX/InstantID/tree/main
这里参考光头强图片的构图,参考姚明的肖像,生成的图片,可以看到,背景是森林的,人物肖像是姚明。融合了两者的风格。
这里调整了一下权重,可以看到两张图片的风格元素完全融入进去了。
第一个加载器,修改成本地存放 controlnet 模型的目录,以下是我本地的路径:
F:ComfyUI-aki-v1.1custom_nodesComfyUI-InstantIDcheckpointscontrolnet
第二个加载器是大模型,选择 SDXL 版本的模型。
在提示词风格化节点中,可以选择不同的风格。
第一张图放人脸,第二张图控制脸部的位置。InstantID会将2个图像的人脸按照一定比例融合,生成新的图片。
工作流中多了一个可视化风格节点。
可视化的风格化节点,总共有两个节点,第一个节点代表的是艺术家风格,我们可以尝试不同的艺术家风格类型。第二个节点是艺术运动。
- 针对参考的面部提取
- 通过InstantID和IPadapter faceId来对面部加强分析
- 面部识别和采样渲染