跳到正文
原文
Hugging Face Blog·· 2025-02-13AI 评分50

每天 10 亿次分类:如何用单卡 L4 把成本压到 253 美元

1 Billion Classifications

AI 导读

Hugging Face 博客给出每天 10 亿次分类与嵌入推理的成本测算框架,用 Infinity 部署、k6 压测,在 nvidia-L4($0.8/hr)上跑 10 亿条输入。

来源:Hugging Face Blog · huggingface.co