大语言模型：新的摩尔定律？

Hugging Face 发文质疑微软与 NVIDIA 发布的 Megatron-Turing NLG 530B 这类超大模型趋势，指出复现该实验需花费近 1 亿美元，且训练 BERT 的碳排放已相当于一次跨美飞行。文章主张改用预训练模型、更小模型（如 DistilBERT 保留 97% 语言理解能力、体积小 40%、速度快 60%）和微调等务实方案。