跳到正文
原文
Hugging Face Blog·· 2023-06-19AI 评分50

如何为低资源 ASR 微调 MMS Adapter 模型

Fine-Tune MMS Adapter Models for low-resource ASR

AI 导读

Hugging Face 发布教程,介绍如何为 Meta AI 的 MMS 模型微调 Adapter 层以适配低资源语言的 ASR 任务。MMS 预训练 checkpoint 覆盖 1400 多种语言、参数量 300M 到 1B,每个 Adapter 层仅约 2.5M 权重,微调 10-20 分钟即可获得极低词错率。对低资源语言,Adapter 训练比全模型微调更省内存、更鲁棒且性能更好。

来源:Hugging Face Blog · huggingface.co