跳到正文
原文
Hugging Face Blog·· 2021-02-10AI 评分34

Hugging Face Transformers 与 Ray 集成:RAG 检索提速 2 倍

Retrieval Augmented Generation with Huggingface Transformers and Ray

AI 导读

Hugging Face Transformers 的 RAG 模型集成 Ray 实现分布式文档检索,每次检索调用相比 torch.distributed 提速 2 倍,并改善了 RAG 分布式微调的可扩展性。

来源:Hugging Face Blog · huggingface.co