跳到正文
原文
Hugging Face Blog·· 2023-04-17AI 评分40

Hugging Face 与 AWS 合作,用 Inferentia2 加速 Transformers 推理

Accelerating Hugging Face Transformers with AWS Inferentia2

AI 导读

Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum neuron 只需一行代码即可编译模型。

来源:Hugging Face Blog · huggingface.co