VocabX 如何通过词表专门化把 SLM 推理成本降低 77%

Dharma AI 在 Hugging Face 博客中预告即将发布的 VocabX 论文，提出按 token 成本而非出现频率重建小模型词表，在基于 Qwen3-4B 的葡萄牙语作文评分器上把平均输出从 350 token 降到 101 token，实测推理成本下降 77.0%，bench 分数从 0.703 升到 0.810。