ERNIE-Image

ERNIE-Image Intel CPU/iGPU OpenVINO 部署完全指南：没有 NVIDIA 显卡也能跑 8B 文生图

lug 16, 2026

ERNIE-Image Intel CPU/iGPU OpenVINO 部署完全指南：没有 NVIDIA 显卡也能跑 8B 文生图

大多数人讨论 ERNIE-Image 时，默认前提是「你得有一块 NVIDIA 显卡」。但如果你用的是 Intel 平台——无论是服务器端的 Xeon CPU、笔记本上的 Iris Xe 核显，还是桌面端的 Arc 独显——OpenVINO 提供了一条完整的部署路径。本文覆盖从环境搭建到 INT4 量化的全流程，包括真实性能数据和常见问题排查。

AI 图像生成的门槛在过去一年大幅降低，但硬件要求始终是一个绕不开的坎。ERNIE-Image 作为 8B 参数的 Diffusion Transformer 模型，官方推荐 24GB VRAM 的 NVIDIA GPU。但现实是：大量开发者使用的是 Intel 平台的设备——数据中心有 Intel Xeon，笔记本有 Intel Core + Iris Xe，桌面有 Arc 显卡。

Intel OpenVINO 在 ERNIE-Image 发布当天即提供了 Day-0 支持，意味着从第一天起，Intel 用户就可以在自己的硬件上运行这个模型。但这条路径的文档分散在多个地方，真实性能数据也缺乏系统整理。

OpenVINO 部署概览

OpenVINO（Open Visual Inference & Neural Network Optimization）是 Intel 开源的深度学习推理优化工具包。针对 ERNIE-Image，它提供了完整的导出和推理管线。

三个核心步骤：

  1. 导出：将 PyTorch 权重转换为 OpenVINO IR 格式
  2. 量化：通过 NNCF 压缩为 FP16/INT8/INT4
  3. 推理：使用 OVErnieImagePipeline API 运行

支持 ERNIE-Image Base（50 步推理）和 ERNIE-Image Turbo（8 步推理）两个版本。

环境搭建

克隆仓库

git clone https://github.com/openvino-dev-samples/optimum-intel.git
cd optimum-intel
git checkout ernie-image
git checkout d0e7fc2aea503755e2cb265e5f0b31dbe270cfc8

创建虚拟环境和安装依赖

python -m venv ernie_env
source ernie_env/bin/activate

pip install "git+https://github.com/huggingface/optimum.git@ec676fd4e0b1440e91549e7a1aa82e0de85e79b5"

pip install "git+https://github.com/HsiaWinter/diffusers.git@5024bc795df15ee46509646a9fc23761aa759bc8"

pip install transformers==4.57.6

pip install openvino==2026.0.0

pip install openvino-tokenizers==2026.0.0.0

pip install nncf==3.0.0

pip install torch==2.10.0 --index-url https://download.pytorch.org/whl/cpu

这里的关键是版本兼容性。diffusers 和 optimum 需要使用指定的 commit 版本，否则可能出现 scaling_factor 属性缺失等兼容性问题。

准备原始模型权重

从 HuggingFace 下载 ERNIE-Image 权重后，目录结构应如下：

ERNIE-Image/
├── model_index.json
├── scheduler/
├── text_encoder/
├── tokenizer/
├── transformer/
└── vae/

导出 OpenVINO IR 格式

FP16 导出

optimum-cli export openvino \
  --model /path/to/ERNIE-Image \
  --task text-to-image \
  --weight-format fp16 \
  ./ernie_image_fp16

INT4 量化导出

optimum-cli export openvino \
  --model /path/to/ERNIE-Image \
  --task text-to-image \
  --weight-format int4 \
  ./ernie_image_int4

INT4 量化后的目录结构包含 model_index.json、openvino_config.json、scheduler、tokenizer、text_encoder、transformer、vae_encoder、vae_decoder 等组件。模型大小从 ~16GB 压缩到约 4GB。

运行推理

CPU 推理

from optimum.intel import OVErnieImagePipeline
import torch

pipe = OVErnieImagePipeline.from_pretrained(

"./ernie_image_int4",

device="CPU",

)


generator = torch.Generator("cpu").manual_seed(42)


result = pipe(

prompt="a cute cat sitting on a colorful cushion, studio lighting, high quality",

num_inference_steps=20,

height=512,

width=512,

generator=generator,

)


result.images[0].save("output.png")

GPU (iGPU / Arc) 推理

将 device 参数改为 "GPU" 即可使用 Intel 集成显卡或 Arc 独立显卡加速：

pipe = OVErnieImagePipeline.from_pretrained(
    "./ernie_image_int4",
    device="GPU",
)

Turbo 模型推理

ERNIE-Image-Turbo 仅需 8 步推理，显著减少延迟：

pipe = OVErnieImagePipeline.from_pretrained(
    "./ernie_image_turbo_int4",
    device="CPU",
)

result = pipe(

prompt="cinematic photo of a samurai in the rain, neon lights",

num_inference_steps=8,

height=512,

width=512,

)

推理参数建议

参数 推荐值 (Base) 推荐值 (Turbo)
num_inference_steps 50 8
height / width 64 的倍数（推荐 512/1024） 64 的倍数（推荐 512/1024）
guidance_scale ≤ 5.0 1.0（Turbo 默认）

真实性能数据

来自社区报告（GitHub Issue #3426）的关键性能数据：

硬件配置：Intel i7-1355U + Iris Xe iGPU + 16GB RAM

模型 量化格式 推理设备 生成时间 备注
ERNIE-Image-Turbo INT4 Iris Xe iGPU ~16 分钟（121秒/步 × 8步） 非常慢
SDXL INT4 同硬件 流畅 对比
Z-Image Turbo INT4 同硬件 流畅 对比
FLUX Fill INT4 同硬件 流畅 对比

关键发现：DiT 架构在 iGPU 上的推理效率明显低于 UNet 架构的模型（如 SDXL、Z-Image）。8B 参数的 DiT Transformer 在低带宽 iGPU 上受到显存带宽限制。

预期更好的平台：

  • Intel Arc A770（16GB VRAM）：预计比 iGPU 快 5-10x
  • Intel Xeon 服务器 CPU：适合批量推理，单张可能较慢但吞吐量稳定
  • Intel Core Ultra (Meteor Lake/Lunar Lake) 内置 NPU：待 OpenVINO 进一步优化

常见问题排查

1. scaling_factor 属性缺失警告

The `scaling_factor` attribute is missing from the VAE decoder configuration.

原因：optimum 与 diffusers 的版本不兼容。需要使用指定的 commit 版本（见上方的安装命令）。

解决：重新安装指定版本的 optimum 和 diffusers，然后重新导出模型。

2. 推理速度极慢

如果 INT4 Turbo 模型在 iGPU 上需要 16 分钟/张，请考虑：

  • 切换至 CPU 推理（某些场景下 CPU 推理可能更快）
  • 使用 Arc 独立显卡
  • 降低分辨率至 512×512（对于 iGPU 更友好）

3. 内存不足 (OOM)

INT4 量化显著降低显存需求。如果仍有 OOM：

  • 使用 enable_model_cpu_offload()
  • 降低批次大小为 1
  • 使用 512×512 分辨率

OpenVINO + ComfyUI 集成

社区已经实现了 OpenVINO 与 ComfyUI 的集成方案。通过 INT4 量化的 ERNIE-Image，可以在 Intel CPU/iGPU/Arc GPU 上通过 ComfyUI 节点进行推理。

工作流要点：

  1. 加载 INT4 OpenVINO 模型
  2. 使用标准 ComfyUI 节点链
  3. 在 Intel 硬件上本地生成

这对于没有 NVIDIA 显卡的 ComfyUI 用户是一个重要的替代方案。

总结

ERNIE-Image OpenVINO 部署的核心结论：

维度 评价
适用场景 CPU 批量推理、Arc GPU 用户、边缘设备
不适用场景 低端 iGPU（Iris Xe 级别）实时推理
最佳硬件 Intel Arc A770 / Xeon 服务器
量化效果 INT4 将模型压缩至 ~4GB，质量损失可控
生态成熟度 Day-0 支持，社区持续优化中

如果你有 Intel Arc 显卡或需要在 CPU-only 的服务器上运行 ERNIE-Image，OpenVINO 是当前最成熟的方案。对于 Iris Xe 级别的集成显卡用户，建议等待 OpenVINO 的进一步推理优化，或者考虑通过云 API 获取更好的体验。

ERNIE-Image Team