Hugging Face Blog·· 2021-04-20AI 评分36
如何在 CPU 上扩展 BERT 推理（上）：Hugging Face 的硬件优化实践
Scaling-up BERT Inference on CPU (Part 1)
AI 导读
Hugging Face 发布博客，介绍在 CPU 上扩展 BERT 推理的硬件优化方法，基于 AWS c5.metal 实例（Intel Xeon Platinum 8275，48 核/96 线程）测试，使用 transformers 4.5.0、PyTorch 1.8.1 与 TensorFlow 2.4.0。
来源：Hugging Face Blog · huggingface.co