跳到正文
原文
Hugging Face Blog·· 2026-06-25精选AI 评分62

NVIDIA NeMo AutoModel 发布,MoE 微调吞吐提升 3.4-3.7 倍

Accelerating Transformers Fine-Tuning with NVIDIA NeMo AutoModel

AI 导读

NVIDIA 发布开源库 NeMo AutoModel,构建在 HuggingFace Transformers v5 之上,为 MoE 模型微调带来 3.4-3.7 倍训练吞吐提升和 29-32% 的 GPU 显存下降。

推荐理由

原文给出 NeMo AutoModel 在 MoE 微调上的吞吐与显存对比数据,读者可据此判断是否值得替换现有训练栈。

来源:Hugging Face Blog · huggingface.co