Hugging Face Blog·· 2020-02-14精选AI 评分62
如何用 Transformers 和 Tokenizers 从零训练一个新语言模型
How to train a new language model from scratch using Transformers and Tokenizers
AI 导读
Hugging Face 发布教程,演示如何用 transformers 和 tokenizers 库从零训练一个 84M 参数的语言模型 EsperBERTo,并在世界语上完成词性标注微调。
推荐理由
Hugging Face 官方给出从零训练语言模型的完整流程,读者可据此复现分词器训练与下游微调。
来源:Hugging Face Blog · huggingface.co