ComfyUI-unclip模型部署指南

一、介绍

unCLIP 模型是 SD 模型的版本,经过专门调整,除了文本提示之外,还可以接收图像概念作为输入。使用这些模型附带的 CLIPVision 对图像进行编码,然后在采样时将其提取的概念传递给主模型。

image.png

它并不是按照传统意义将图像混合在一起,而是实际上从两者中挑选了一些概念并制作了一个连贯的图像。

二、容器构建说明

本文档针对 ComfyUI 进行部署使用,因此在正式部署之前需要部署 ComfyUI

1. 部署 ComfyUI

(1)使用命令克隆 ComfyUI

git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI

(2)安装 conda(如已安装则跳过)

下面需要使用 Anaconda 或 Mimiconda 创建虚拟环境,可以输入 conda --version 进行检查。下面是 Mimiconda 的安装过程:

  • 下载 Miniconda 安装脚本
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
  • 运行安装脚本
bash Miniconda3-latest-Linux-x86_64.sh
  • 遵循安装提示并初始化

按 Enter 键查看许可证条款,阅读完毕后输入 yes 接受条款,安装完成后,脚本会询问是否初始化 conda 环境,输入 yes 并按 Enter 键。

  • 运行 source ~/.bashrc 命令激活 conda 环境
  • 再次输入 conda --version 命令来验证是否安装成功,如果出现类似 conda 4.10.3 这样的输出就成功了。

(3)创建虚拟环境

输入下面的命令:

conda create -n comfyui python=3.10
conda activate comfyui

(4)安装 pytorch

pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu121

(5)安装项目依赖

pip install -r requirements.txt

此时所需环境就已经搭建完成,通过下面命令进行启动:

python main.py

访问网址得到类似下图界面即表示成功启动:

image.png

2. 部署 unclip 模型

(1)下载 sd21-unclip-h 模型

访问 Hugging Face 搜索“stabilityai/stable-diffusion-2-1-unclip”下载下图的模型,也可以点击这里进入。首次访问该页面时,可能需要同意用户协议才能看到模型下载页。

image.png

(2)下载工作流

进入网站:unCLIP 模型示例 |ComfyUI_examples (comfyanonymous.github.io)并将下图下载,然后拖入 Comfy UI 中:

image.png

然后你的 ComfyUI 中应该会出选相应的工作流,类似下图:

image.png

至此unclip就可以实现了

上一篇:Cargo Rust 的包管理器


下一篇:Linux一些常用的系统优化