作者简介:刘伟鸿|英特尔AI创新大使,LLM-Cookbook核心贡献者,DataWhale开源社区成员,深耕AI模型推理优化

开源图像生成模型不断更新,如何让新模型尽快跑在自己的设备上,是开发者关注的实际问题。近期发布的 Qwen-Image 2.1 Turbo 与 MOSS-Image SFT,现已提供基于英特尔开源 AI 工具套件OpenVINO™ 的 ComfyUI 本地部署实践。开发者可以在搭载英特尔GPU的 Windows 设备上运行模型,体验本地图像生成,并进一步探索推理优化与工作流集成。

此次适配覆盖了文本编码器、DiT(Diffusion Transformer)、VAE 及 ComfyUI 专用节点,将模型推理与图像生成流程整合起来。开发者既可以直接使用预转换的 OpenVINO™ 模型,也可以通过配套教程了解部署流程,并在自己的设备上开展实践。

两款模型,适配不同图像生成需求

▪Qwen-Image 2.1 Turbo:关注生成效率

针对 Qwen-Image 2.1 Turbo,提供了适用于英特尔GPU的 OpenVINO™ 优化模型与专用 ComfyUI 工作流。开发者可以直接加载模型,生成 512 × 512 或 1024 × 1024 图像,并根据自己的设备测试不同分辨率下的运行表现。

▪MOSS-Image SFT:探索更灵活的生成控制

MOSS-Image SFT 同样支持通过 OpenVINO™ 在英特尔GPU上运行。除了自然语言提示词,还可以尝试 JSON Layout 等输入方式,探索更具结构化的图像生成流程。配套实践也覆盖了分辨率切换时的组件复用优化,帮助开发者了解如何减少重复的模型准备开销。

实测数据:看看模型在英特尔GPU上跑得如何

我们分别在英特尔锐炫™ Pro B70 GPU(B70)和第三代英特尔酷睿™ Ultra 处理器 (B390)平台上,对两款模型进行了端到端工作流测试。下表展示模型完成首次准备后,在同一进程、相同分辨率下后续运行的耗时中位数。

注:以上为指定软硬件配置下的端到端热运行耗时,覆盖文本编码、DiT 推理与 VAE 解码等生成环节,并非单独的模型推理耗时。数据为相同进程、相同分辨率下后续运行的耗时中位数。两款模型的生成参数与采样步数不同,不宜直接横向比较性能。实际结果会因设备配置和运行环境而异。

模型Intel GPU512 × 512图1024 × 1024图
Qwen-Image 2.1 TurboB702.0 秒8.1 秒
Qwen-Image 2.1 TurboB3905.6 秒29.0 秒
MOSS-Image SFTB7016.4 秒69.9 秒
MOSS-Image SFTB39042.0 秒212.7 秒

▪实测中还有两个值得关注的现象:

首次运行与后续运行存在差异。 首次运行需要进行模型准备;后续运行可以利用编译缓存和已加载的模型组件,减少重复开销。因此,评估本地部署效果时,应区分首次运行耗时与稳定运行表现。

分辨率会影响运行时间与资源需求。 从 512 × 512 切换到 1024 × 1024 后,两款模型的完整工作流耗时均有所增加。建议开发者先从较低分辨率开始验证,再结合设备资源和实际应用需求调整生成设置。

查看教程,动手验证并参与技术共创

想了解完整部署过程,或亲自在自己的设备上测试模型表现?欢迎访问 英特尔 Agentic PC 专区 · ComfyUI 专栏(https://modelscope.cn/brand/view/AI_PC?branch=0&tree=4),查看两款模型的详细教程。

  • Qwen-Image 2.1 Turbo:从环境准备、模型加载到图像生成与性能测试。
  • MOSS-Image SFT:体验不同输入方式,并探索分辨率切换和组件复用。

欢迎开发者基于自有英特尔GPU设备开展实践,分享生成效果、运行体验与应用场景,提出适配建议和优化思路。期待更多开发者加入技术共创,携手探索端侧AI的更多可能!

Logo

为开发者提供丰富的英特尔开发套件资源、创新技术、解决方案与行业活动。欢迎关注!

更多推荐