大家好,上一篇我们介绍了Z-Image在本地用ComfyUI运行的教程,它通过qwen的大语言模型编码,遵循指令的程度很高。但是,毕竟单纯靠文字描述没法精细控制每一个画面细节。终于,在12/23日,PAI团队发布了Z-Image-Turbo-Fun-Controlnet-Union-2.1。它修复了严重的性能 Bug,并且带来了画质更清晰的 8步蒸馏版本。
模型下载
官网:Z-Image-Turbo-Fun-Controlnet-Union-2.1 · 模型库
进入后点击“模型文件”可以下载对应的版本,这里推荐下面两个版本:
| 名称 | 适用场景 | 描述 |
|---|---|---|
| Z-Image-Turbo-Fun-Controlnet-Union-2.1-8steps.safetensors | 日常首选 | 最推荐!经过8步蒸馏,速度快,画质好。推理时记得把步数设为 8。 |
| Z-Image-Turbo-Fun-Controlnet-Tile-2.1-8steps.safetensors | 高清放大 | 专门用于 Tile(分块)放大的模型,支持 2048×2048 分辨率,也是8步蒸馏版。做 4K 壁纸神器。 |
这是一个Union联合模型,所以不需要分别为 Canny、Pose、Depth 下载一堆文件了,这一个文件就支持所有功能!
在ComfyUI中加载
下载模型后放入ComfyUI\models\model_patches目录
然后在ComfyUI的templates里可以直接打开示例工作流Z-Image-Turbo Fun Union

打开后提示找不到模型可以忽略,因为现在最新的是我刚刚下载的2.1 8 steps的模型了。进入工作流后双击“Z-Image-Turbo Fun Control to Image” 节点可以展开内部的节点,我们把模型替换成刚刚下载的2.1版本即可~ (也可以点击类似全屏的按钮把这个节点展开,方便调整里面的参数)


常用参数调整:
想要发挥这个模型的最大威力,有几个参数需要注意:
步数 (Steps):如果你用的是 8steps 结尾的模型,请锁定使用 8 步。多跑浪费时间,少跑画质崩坏。
如果用的是普通版,建议适当增加步数。
控制强度 (Control Strength):
官方推荐 control_context_scale 的范围在 0.65 到 0.90 之间。太高可能会导致画面过拟合或生硬。
提示词 (Prompt):
官方强烈建议使用详细的提示词。Z-Image 听得懂长句子,多描述细节能提高 ControlNet 的稳定性。
预处理缩放:
默认工作流有一个ImageScaleToMaxDimension节点是关闭状态,我们先选中它按ctrl+B把它激活,这样可以把图片缩放到1024分辨率,避免原始图分辨率太大导致爆显存。
ControlNet的各种实战应用
Canny:边缘检测(线稿上色)
默认的工作流是Canny,用于边缘检测,可以用于线稿上色。
有一个图片上传节点我们可以上传我们的原始图。比如一张原神小草神的图片,让它生成真人图片。
提示词参考:
一张真人照片,纳西妲(原神角色)的cosplay。一位年轻女孩,白发带有绿色挑染,扎着侧马尾,佩戴树叶形状的发饰,尖耳朵。她穿着绿白相间的连衣裙,带有金色刺绣和装饰,手腕上戴着金色手镯。她双手抱胸,面带微笑,看着镜头。自然柔和的光线,浅景深背景,高清人像摄影。

Pose:姿势控制 (换人不换动作)
玩法一:需要安装comfyui_controlnet_aux拓展,里面有很多用于preprocess的模型。下载后,用DWPose Estimator节点替换原先的Canny节点即可。

这个节点本身要用到一些模型来完成图片转换,会自动下载。推荐先根目录下ComfyUI_windows_portable> .\python_embeded\python.exe -m pip install hf_xet 安装hf_xet,下载速度会加快。
提示词参考:
A high-resolution, realistic photograph of a young woman in a complete Ganyu cosplay from Genshin Impact. She is crouching low on a sunny sandy beach, hands touching the sand pebbles, looking directly at the camera with a gentle expression. She has blue hair, red contact lenses, and distinct black and red Qilin horns on her head. She is wearing Ganyu's default black, white, and blue bodysuit outfit with gold accents and the bell choker. Bright natural daylight, turquoise ocean waves breaking in the background under a clear blue sky. Realistic skin texture, sharp focus.

Depth:深度图(空间结构)
Depth 模式非常适合室内设计或建筑渲染,它能锁死房间的结构(墙壁、家具位置),但允许你随意更换装修风格。
将预处理器替换为 Depth Anything V2
提示词参考:
一张温馨的现代客厅室内设计照片。基于原有的空间结构,将风格改造为温暖的日系原木风。阳光透过右侧落地窗洒满整个房间,光线柔和明亮。原有的灰色沙发上堆满了柔软的米色和焦糖色针织抱枕,沙发上随意搭着一条毛茸茸的毯子。地板上铺着一张巨大的、质感厚实的米白色羊毛地毯,让空间显得不再空旷。黑色的茶几上摆放着精致的陶瓷花瓶插着鲜花,还有几本翻开的杂志和热咖啡,充满生活气息。背景的墙面被设计成暖白色的护墙板,角落里增加了一个实木书架,摆满了书籍。整体色调是奶油色、浅木色和暖灰色,氛围非常舒适、治愈,超写实,8k分辨率。

支付宝打赏
微信打赏