跳到正文
原文
Hugging Face Blog·· 2022-11-02AI 评分38

Hugging Face Optimum Intel 集成 OpenVINO,加速 Transformer 模型推理

Accelerate your models with 🤗 Optimum Intel and OpenVINO

AI 导读

Hugging Face 将 Intel OpenVINO 集成进 Optimum Intel,用户可在多种 Intel 处理器上用 OpenVINO Runtime 对 Transformers 模型执行推理,并借助 NNCF 在数分钟内完成量化以压缩模型体积、降低预测延迟。

来源:Hugging Face Blog · huggingface.co