跳到正文
原文
Hugging Face Blog·· 2023-08-09AI 评分34

如何用 🤗 Transformers 优化 Bark 文本转语音模型

Optimizing Bark using 🤗 Transformers

AI 导读

Hugging Face 发布实战教程,演示如何用 Transformers、Optimum 和 Accelerate 三个库优化 Suno AI 的文本转语音模型 Bark。教程基于 suno/bark-small 检查点,通过三项简单优化降低显存占用并提升推理速度,并给出未优化基线的 benchmark 对比:5 次迭代平均执行时间 9.38 秒、最大显存占用 1.91 GB。

来源:Hugging Face Blog · huggingface.co