Hugging Face Blog·· 2021-01-18AI 评分40
Hugging Face 如何为 API 客户将 Transformer 推理提速 100 倍
How we sped up transformer inference 100x for 🤗 API customers
AI 导读
Hugging Face 通过组合 Transformers 与 Tokenizers 库的优化方法，为 Accelerated Inference API 客户实现了 100 倍推理提速。
来源：Hugging Face Blog · huggingface.co