Hugging Face Blog·· 2024-12-23AI 评分38
用 NVIDIA LogitsProcessorZoo 控制语言模型生成
Controlling Language Model Generation with NVIDIA's LogitsProcessorZoo
AI 导读
NVIDIA 推出 LogitsProcessorZoo,一组模块化 logits 处理器,可控制序列长度、强制关键短语或引导多选题答案,并与 Hugging Face 的 generate 方法完全兼容。该库通过 pip install logits-processor-zoo 安装,示例基于 meta-llama/Llama-3.2-1B-Instruct 模型演示。
来源:Hugging Face Blog · huggingface.co