Hugging Face Blog·· 2024-07-11精选AI 评分62
NuminaMath 如何赢得首届 AIMO 进步奖
How NuminaMath Won the 1st AIMO Progress Prize
AI 导读
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖,在私有测试集 50 题中解出 29 题。方案基于 DeepSeekMath-Base 7B 做两阶段全量微调,先学自然语言链式推理,再学工具集成推理,配合 SC-TIR 解码生成 N=48、深度 M=4 的候选并多数投票。
推荐理由
获胜方案完整公开了两阶段微调、SC-TIR 解码与内部验证集设计,可迁移到其他推理任务。
来源:Hugging Face Blog · huggingface.co