Hugging Face Blog·· 2023-11-07AI 评分22
RoBERTa、Llama 2 与 Mistral 7B 灾难推文分类性能对比：基于 LoRA 的微调实践
Comparing the Performance of LLMs: A Deep Dive into Roberta, Llama 2, and Mistral for Disaster Tweets Analysis with Lora
AI 导读
一项对比实验用 LoRA 微调 RoBERTa-large（355M）、Llama-2-7b 和 Mistral-7B-v0.1 三个模型，在灾难推文二分类任务上评测性能。实验统一设置 MAX_LEN=512，在单张 A6000（48GB）上完成训练，并使用 Weights & Biases 做超参数调优与实验记录。
来源：Hugging Face Blog · huggingface.co