Hugging Face Blog·· 2021-02-10AI 评分34
Hugging Face Transformers 与 Ray 集成:RAG 检索提速 2 倍
Retrieval Augmented Generation with Huggingface Transformers and Ray
AI 导读
Hugging Face Transformers 的 RAG 模型集成 Ray 实现分布式文档检索,每次检索调用相比 torch.distributed 提速 2 倍,并改善了 RAG 分布式微调的可扩展性。
来源:Hugging Face Blog · huggingface.co