#
Intel Gaudi

Intel Gaudi AI 加速器系列包括 Intel Gaudi 1、Intel Gaudi 2 和 Intel Gaudi 3。每台服务器配备 8 个设备，称为 Habana 处理单元 (HPU)，在 Gaudi 3 上提供 128GB 内存，在 Gaudi 2 上提供 96GB 内存，在第一代 Gaudi 上提供 32GB 内存。有关底层硬件架构的更多详细信息，请查看 Gaudi 架构 概述。

Diffusers 管道可以利用 HPU 加速，即使管道尚未添加到 Optimum for Intel Gaudi，也可以通过 GPU 迁移工具包 实现。

在您的管道上调用 `.to("hpu")` 以将其移动到 HPU 设备，如下所示为 Flux 示例：

    import torch
    from diffusers import DiffusionPipeline

    pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
    pipeline.to("hpu")

    image = pipeline("一张松鼠在毕加索风格中的图像").images[0]

对于 Gaudi 优化的扩散管道实现，我们推荐使用 Optimum for Intel Gaudi。

< > Update on GitHub