Hugging Face Blog·· 2021-11-19AI 评分30
如何用 Intel 技术加速 PyTorch 分布式微调
Accelerating PyTorch distributed fine-tuning with Intel technologies
AI 导读
在 Intel Xeon Scalable CPU(Ice Lake 架构)集群上分布式微调 BERT 模型,可将 PyTorch 训练任务加速。演示在 MRPC 数据集(GLUE 基准任务之一,含 5,800 对句子)上微调 BERT,从单节点扩展到 2 节点、4 节点并测量加速比。
来源:Hugging Face Blog · huggingface.co