Hugging Face Blog·· 2023-10-24精选AI 评分62
Hugging Face 实测 SDXL 推理优化：从 28GB 显存降到 11.5GB
Exploring simple optimizations for SDXL
AI 导读
Hugging Face 在 A100 40GB 上实测了 SDXL 的多项推理优化，未优化时显存占用 28GB、延迟 72.2 秒，使用 fp16 后降至 21.7GB 和 14.8 秒。
推荐理由
Hugging Face 官方给出 SDXL 各项推理优化的实测数据，读者可据此按显存和延迟取舍配置。
来源：Hugging Face Blog · huggingface.co