Hugging Face Blog·· 2025-04-29AI 评分26
Intel 推出 AutoRound：面向 LLM 与 VLM 的先进量化工具
Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs
AI 导读
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重舍入与裁剪范围，实现 INT2-INT8 低比特量化。在 INT2 下其相对精度最高达主流基线 2.1 倍，量化 72B 模型在 A100 上仅需 37 分钟。
来源：Hugging Face Blog · huggingface.co