一键部署Stable Diffusion 3.5大模型文生图

一键部署 Stable Diffusion 3.5 大模型文生图系统

你有没有试过在本地跑一个最新版的文生图大模型，结果显存直接爆掉？或者等一张图生成要半分钟，交互体验像在“抽卡”？这在过去使用 Stable Diffusion 3.5 原始 FP16 模型时几乎是常态——画质确实惊艳，但对硬件的要求也高得让人望而却步。

但现在情况变了。随着FP8（8位浮点）量化技术的成熟，我们终于能在几乎不牺牲视觉质量的前提下，把 SD3.5 这种旗舰级模型塞进消费级显卡里流畅运行。比如 RTX 3090 或 4090，原本需要近 19GB 显存才能加载的模型，现在仅需12GB 左右就能跑起来，推理速度还快了三分之一以上。

更关键的是，这套方案不是实验室里的概念验证，而是已经可以通过 Docker 容器实现“一键部署”。结合ComfyUI 可视化工作流引擎和中文支持插件，即便是刚入门 AIGC 的用户，也能快速上手高质量图像生成。

整个系统的核心是一个高度集成的 Docker 镜像：它内置了 CUDA 环境、PyTorch 推理框架、ComfyUI 前端界面，并预装了sd3.5_fp8.safetensors主模型和所有必要的组件（包括 CLIP-G/L、T5XXL-FP8 编码器和 SDXL VAE）。你不需要手动配置 Python 虚拟环境或处理依赖冲突，只要准备好模型文件，执行两条命令就能启动服务。

为什么选 ComfyUI？因为它不像传统 WebUI 那样把所有参数封装成黑盒。它的节点式设计让你可以清晰看到每一步发生了什么——从提示词编码、潜空间采样到 VAE 解码输出。这对于调试复杂构图、复现他人作品或构建自动化流程特别有用。而且社区生态活跃，很多高级功能（如 ControlNet、LoRA 切换）都可以通过拖拽节点实现。

下面是构建这个系统的完整路径：

首先，准备以下目录结构：

. ├── AIGODLIKE-COMFYUI-TRANSLATION # 中文翻译插件 │ ├── zh-CN │ ├── en-US │ └── ... ├── clip │ ├── clip_g.safetensors │ ├── clip_l.safetensors │ └── t5xxl_fp8_e4m3fn.safetensors ← 关键！必须是 FP8 版本 ├── stable-diffusion │ └── sd3.5_fp8.safetensors # 主模型 ├── vae │ └── sdxl_vae.safetensors ├── Dockerfile └── example-workflow.json # 示例工作流（可选）

其中几个关键资源需要提前下载：

⚠️ 提示：t5xxl_fp8_e4m3fn.safetensors是 FP8 推理的关键，如果用错了普通精度版本，会导致性能下降甚至报错。建议使用huggingface-cli download或wget批量拉取。

接着是Dockerfile，这是实现“开箱即用”的核心脚本：

FROM nvidia/cuda:12.4.0-base-ubuntu22.04 # 安装基础依赖 RUN apt-get update && \ apt-get install -y python3 pip git wget --no-install-recommends && \ rm -rf /var/lib/apt/lists/* # 克隆 ComfyUI RUN git clone https://github.com/comfyanonymous/ComfyUI.git /ComfyUI # 使用清华源安装 PyTorch（加速国内网络） RUN pip install torch torchvision torchaudio --index-url https://pypi.tuna.tsinghua.edu.cn/simple --no-cache-dir # 安装 ComfyUI 依赖 WORKDIR /ComfyUI RUN pip install --index-url https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt --no-cache-dir # 创建模型目录 RUN mkdir -p models/checkpoints models/clip models/vae custom_nodes # 添加中文支持 COPY AIGODLIKE-COMFYUI-TRANSLATION custom_nodes/AIGODLIKE-COMFYUI-TRANSLATION # 复制模型文件（需预先下载） COPY stable-diffusion/sd3.5_fp8.safetensors models/checkpoints/ COPY clip/clip_g.safetensors models/clip/ COPY clip/clip_l.safetensors models/clip/ COPY clip/t5xxl_fp8_e4m3fn.safetensors models/clip/ COPY vae/sdxl_vae.safetensors models/vae/ EXPOSE 8188 CMD ["python3", "main.py", "--listen", "0.0.0.0", "--port", "8188"]

这个镜像基于 CUDA 12.4 构建，确保与现代 NVIDIA 显卡驱动兼容。所有 pip 包都通过清华镜像源安装，避免因网络问题中断。最关键的是，模型文件在构建阶段就被静态复制进去，这意味着每次运行容器都不需要重新加载或验证，极大提升了启动效率。

构建镜像只需一条命令：

docker build -t sd35-fp8-comfyui:latest .

根据网络状况，整个过程大约耗时 5~10 分钟。完成后，用下面这条命令启动容器：

docker run --gpus all \ --rm \ -p 8188:8188 \ -v ./output:/ComfyUI/output \ sd35-fp8-comfyui:latest

这里有几个要点：
---gpus all表示启用主机上的全部 GPU，Docker 会自动调用 NVIDIA Container Toolkit；
--p 8188:8188映射 Web 界面端口；
--v ./output:/ComfyUI/output将生成图片持久化保存到本地，防止容器退出后丢失；
---rm在测试阶段很实用，退出后自动清理临时容器。

启动成功后，你会看到类似日志：

Starting server To see the GUI go to: http://0.0.0.0:8188

打开浏览器访问 http://localhost:8188，就能进入 ComfyUI 界面。如果你导入了一个预设的工作流 JSON 文件（例如随镜像附带的example-workflow.json），可以直接点击左侧面板的 “Queue Prompt” 开始生成图像。

推荐的提示词结构如下：

(masterpiece, best quality, ultra-detailed), a futuristic cityscape at sunset with flying cars and neon lights, cinematic lighting, wide angle shot

负面提示词建议设置为：

low quality, blurry, distorted anatomy, watermark, text

分辨率推荐使用1024×1024，这是 SD3.5 训练时的主要尺度。采样器方面，Euler a或DPM++ 2M Karras表现稳定，步数控制在 20~30 步之间即可获得良好效果。太多步数不仅耗时，还可能引入不必要的 artifacts。

来看一组实测数据（RTX 4090）：

可以看到，FP8 方案在显存节省超过6GB的同时，速度提升约35%，而画质差异几乎无法肉眼分辨。这对生产环境意义重大——意味着你可以在同一台服务器上部署更多实例，或将高端卡用于更高并发的任务。

当然，实际部署中也会遇到一些常见问题。

比如构建时报错 “CUDA not available”，通常是因为缺少nvidia-container-toolkit。解决方法是在宿主机安装该工具：

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list sudo apt-get update sudo apt-get install -y nvidia-docker2 sudo systemctl restart docker

之后容器就能正确识别 GPU。

另一个常见问题是模型加载失败，提示 “cannot find model”。这时应检查三点：
1..safetensors文件是否放在正确的子目录下（checkpoints / clip / vae）；
2. 文件名是否与 Dockerfile 中 COPY 指令完全一致；
3. 是否遗漏了t5xxl_fp8_e4m3fn.safetensors——它是 FP8 推理链路的核心环节。

可通过进入容器内部排查：

docker run -it sd35-fp8-comfyui:latest bash ls /ComfyUI/models/checkpoints/

如果页面白屏或无法访问，可能是浏览器缓存问题，尝试无痕模式；也可能是防火墙阻止了 8188 端口，记得开放规则。

对于希望将此系统投入生产的团队，还可以进一步优化：

使用 Docker Compose 统一管理

创建docker-compose.yml，便于多服务协同和版本控制：

version: '3.8' services: comfyui: build: . runtime: nvidia ports: - "8188:8188" volumes: - ./output:/ComfyUI/output - ./input:/ComfyUI/input deploy: resources: reservations: devices: - driver: nvidia count: 1 capabilities: [gpu]

配合 Nginx 实现 HTTPS 访问

为了让外部用户安全访问，可以用 Nginx 做反向代理并启用 SSL：

server { listen 443 ssl; server_name ai.yourcompany.com; ssl_certificate /path/to/fullchain.pem; ssl_certificate_key /path/to/privkey.pem; location / { proxy_pass http://127.0.0.1:8188; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } }

这样就可以通过域名访问，适合企业级部署。

自动化 CI/CD 流水线

结合 GitHub Actions，实现代码提交后自动构建镜像并推送至 Docker Hub：

name: Build SD3.5-FP8 Image on: [push] jobs: build: runs-on: ubuntu-latest steps: - uses: actions/checkout@v3 - name: Set up QEMU uses: docker/setup-qemu-action@v2 - name: Set up Docker Buildx uses: docker/setup-buildx-action@v2 - name: Login to DockerHub uses: docker/login-action@v2 with: username: ${{ secrets.DOCKER_USER }} password: ${{ secrets.DOCKER_PASS }} - name: Build and push uses: docker/build-push-action@v4 with: tags: yourname/sd35-fp8:latest push: true platforms: linux/amd64

这样一来，模型更新或 UI 升级都能自动同步，极大提升运维效率。

这种将 FP8 量化 + ComfyUI + Docker 容器化相结合的技术路线，正在成为 AIGC 应用部署的新标准。它不仅降低了个人用户的使用门槛，也让企业在构建图像生成服务平台时有了更高效、更可靠的工程选择。

下一步你可以尝试：
- 将生成接口暴露为 REST API（ComfyUI 支持/prompt接口调用）；
- 接入 LoRA 微调模型实现风格定制；
- 在云服务器上部署多个实例做负载均衡；
- 或干脆把它嵌入到自己的设计工具链中。

当最先进的生成模型变得像搭积木一样简单，真正的创造力才刚刚开始释放。