Hugging Face Blog·· 2025-02-13AI 评分50
每天 10 亿次分类:如何用单卡 L4 把成本压到 253 美元
1 Billion Classifications
AI 导读
Hugging Face 博客给出每天 10 亿次分类与嵌入推理的成本测算框架,用 Infinity 部署、k6 压测,在 nvidia-L4($0.8/hr)上跑 10 亿条输入。
来源:Hugging Face Blog · huggingface.co
1 Billion Classifications
Hugging Face 博客给出每天 10 亿次分类与嵌入推理的成本测算框架,用 Infinity 部署、k6 压测,在 nvidia-L4($0.8/hr)上跑 10 亿条输入。
来源:Hugging Face Blog · huggingface.co