MLU运行SD3部署手册

前言

Stable Diffusion 3各版本模型在以下多个方面表现出色：
可定制性：轻松微调模型以满足特定创作需求，或根据定制的工作流程构建应用程序。
高效性能：经过优化，均可在标准消费级硬件上运行。
多样化输出：无需大量提示，即可创建代表全世界的图像，而不仅仅是一种肤色和特征的人。
风格多样：能够生成各种风格和美感的图片，如 3D、摄影、绘画、线条艺术以及几乎任何可以想象到的视觉风格。

一、平台环境准备

卡选择：MLU370系列
驱动选择：6.2.5以上
本次操作镜像如下：
pytorch:v24.10-torch2.4.0-torchmlu1.23.1-ubuntu22.04-py310

二、模型下载

git-lfs clone https://www.modelscope.cn/AI-ModelScopestable-diffusion-3-medium-diffusers.git

三、环境准备

source /torch/venv3/pytorch_infer/bin/activate #激活推理环境
pip install diffusers==0.30.1
pip install diffusers_mlu-0.3.0+diffusers0.30.1-py3-none-any.whl #请私信拿包

四.代码准备

import torch
from diffusers import StableDiffusion3Pipeline
import diffusers_mlu # 只需增加该命令即可
pipe = StableDiffusion3Pipeline.from_pretrained("/workspace/volume/guojunceshi2/stable-diffusion-3-medium-diffusers")
pipe = pipe.to("cuda")
pipe = pipe.to(torch.float16)#一定要注意这一行
image = pipe(
    "A cat holding a sign that says hello world",
    negative_prompt="",
    num_inference_steps=28,
    guidance_scale=7.0,
    ).images[0]
image.save("cat.png")

五.效果展示

A cat holding a sign that says hello world