用 ROCm 在单块 AMD GPU 上运行 Vicuna 13B 聊天机器人

Hugging Face 发布教程，介绍如何在单块 AMD GPU 上通过 ROCm 运行 13B 参数的 Vicuna 聊天机器人。Vicuna 由 UC Berkeley、CMU、斯坦福和 UCSD 团队基于 LLaMA 微调，训练成本约 300 美元，以 GPT-4 为参考的初步评估中质量达到 ChatGPT 的 90% 以上。