跳到正文
原文
Hugging Face Blog·· 2024-12-23AI 评分38

用 NVIDIA LogitsProcessorZoo 控制语言模型生成

Controlling Language Model Generation with NVIDIA's LogitsProcessorZoo

AI 导读

NVIDIA 推出 LogitsProcessorZoo,一组模块化 logits 处理器,可控制序列长度、强制关键短语或引导多选题答案,并与 Hugging Face 的 generate 方法完全兼容。该库通过 pip install logits-processor-zoo 安装,示例基于 meta-llama/Llama-3.2-1B-Instruct 模型演示。

来源:Hugging Face Blog · huggingface.co