Hugging Face 工程师 Lewis Tunstall 谈 transformers 库与 ONNX 导出优化

Hugging Face 机器学习工程师 Lewis Tunstall 在访谈中介绍了他为 transformers 库开发的功能：将 PyTorch 模型导出为 ONNX 格式，只需一行代码即可完成转换，从而获得更低的延迟和更高的吞吐量。他还与 Leandro von Werra 合著了《NLP with Transformers》一书，并谈到大规模模型评估等话题。