跳到正文
原文
Hugging Face Blog·· 2020-02-14精选AI 评分62

如何用 Transformers 和 Tokenizers 从零训练一个新语言模型

How to train a new language model from scratch using Transformers and Tokenizers

AI 导读

Hugging Face 发布教程,演示如何用 transformers 和 tokenizers 库从零训练一个 84M 参数的语言模型 EsperBERTo,并在世界语上完成词性标注微调。

推荐理由

Hugging Face 官方给出从零训练语言模型的完整流程,读者可据此复现分词器训练与下游微调。

来源:Hugging Face Blog · huggingface.co