跳到正文
原文
Hugging Face Blog·· 2024-02-19精选AI 评分62

Hugging Face PEFT 新增多种 LoRA 适配器合并方法

🤗 PEFT welcomes new merging methods

AI 导读

Hugging Face 在 PEFT 中新增面向 LoRA 适配器的合并方法,包括 cat、linear、svd、TIES、DARE 和 magnitude_prune 等,可通过 add_weighted_adapter() 调用。

推荐理由

PEFT 新增多种 LoRA 合并方法并给出选型顺序,读者可据此判断不同适配器组合该用哪种策略。

来源:Hugging Face Blog · huggingface.co