Hugging Face Blog·· 2023-04-17AI 评分40
Hugging Face 与 AWS 合作,用 Inferentia2 加速 Transformers 推理
Accelerating Hugging Face Transformers with AWS Inferentia2
AI 导读
Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum neuron 只需一行代码即可编译模型。
来源:Hugging Face Blog · huggingface.co