跳到正文
原文
Hugging Face Blog·· 2024-02-08AI 评分58

Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API

From OpenAI to Open LLMs with Messages API on Hugging Face

AI 导读

Hugging Face 为 Text Generation Inference(TGI)和 Inference Endpoints 推出 Messages API,从 TGI 1.4.0 起提供与 OpenAI Chat Completion API 兼容的接口,可直接使用 OpenAI 客户端库或 LangChain、LlamaIndex 等第三方工具。

来源:Hugging Face Blog · huggingface.co