Hugging Face Blog·· 2023-05-31AI 评分42
Hugging Face 为 Amazon SageMaker 推出 LLM Inference Container
Introducing the Hugging Face LLM Inference Container for Amazon SageMaker
AI 导读
Hugging Face 发布面向 Amazon SageMaker 的 LLM Inference Container（DLC），基于 Text Generation Inference（TGI），可部署 BLOOM、StarCoder、Llama、T5 等开源大模型。
来源：Hugging Face Blog · huggingface.co