跳到正文
原文
Hugging Face Blog·· 2025-09-29AI 评分22

在 Intel Core Ultra 上用深度剪枝草稿模型加速 Qwen3-8B Agent

Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models

AI 导读

Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上加速 Qwen3-8B,以 Qwen3-0.6B 为草稿模型做投机解码,生成速度提升约 1.3 倍。

来源:Hugging Face Blog · huggingface.co