跳到正文
原文
Hugging Face Blog·· 2023-10-04AI 评分40

ONNX Runtime 加速 Hugging Face 超 13 万个模型

Accelerating over 130,000 Hugging Face models with ONNX Runtime

AI 导读

Hugging Face 上已有超过 13 万个支持 ONNX 的模型可借助 ONNX Runtime 加速,其中包括众多 LLM 和云端模型。ONNX Runtime 已支持 90 多个 Hugging Face 模型架构,涵盖 BERT、GPT2、T5、Whisper、Stable-Diffusion 等最热门架构。

来源:Hugging Face Blog · huggingface.co