Hugging Face 详解大语言模型红队测试
红队测试通过构造自然语言提示词诱导大语言模型输出有害内容，从而暴露其漏洞，与对抗攻击不同，其提示词对人类而言是正常可读的。红队测试可由人工或另一个语言模型执行，针对经 RLHF 或 SFT 对齐的模型需借助角色扮演等创造性手段。随着模型能力增强，开发可持续适配的红队方法并推动多方协作共享数据集与最佳实践变得至关重要。
#Hugging Face
#Hugging Face
今日 1 条Hugging Face BlogAI 评分3535
Hugging Face BlogAI 评分2020 Fetch 借助 Hugging Face 与 AWS 整合 AI 工具，开发时间节省 30%
消费者奖励公司 Fetch 在 AWS 上借助 Hugging Face 专家加速计划，将原本依赖第三方黑盒的收据处理方案替换为自研 AI 模型，开发时间缩短 30%，处理延迟降低 50%。Fetch 目前每天处理超 1100 万张收据，服务 1800 万月活用户，方案基于 Amazon SageMaker 和 AWS Inferentia 加速器。
Hugging Face BlogAI 评分5252 Hugging Face 与 AWS 达成长期战略合作，让 AI 更易获取
Hugging Face 与 AWS 宣布扩大长期战略合作，Hugging Face 将 AWS 作为首选云服务商，社区开发者可通过 Amazon SageMaker、AWS Trainium 和 AWS Inferentia 训练、微调与部署模型。
Hugging Face Blog精选AI 评分6262 用 Hugging Face Transformers 上手 BLIP-2 零样本图像到文本生成
Hugging Face 博客介绍 Salesforce Research 的 BLIP-2 已集成进 Transformers，可在冻结图像编码器与大语言模型之间加入轻量 Q-Former 完成视觉语言预训练。
推荐理由：以 New Yorker 漫画为例演示 BLIP-2 的零样本图像描述、提示续写与视觉问答，可据此快速上手多模态推理。
Hugging Face BlogAI 评分2222 我们为何转向 Hugging Face Inference Endpoints，或许你也应该考虑
团队将原本跑在 AWS ECS + Fargate 上的 CPU 推理模型迁移到 Hugging Face Inference Endpoints，部署流程从六步简化为三步。基于 RoBERTa 文本分类模型的测试显示，large 实例延迟约 80ms，比此前 ECS 方案快一倍以上，但成本高出 24% 至 50%，large CPU 实例每月约多花 60 美元。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 PEFT 库，支持 LoRA 等参数高效微调方法
Hugging Face 发布 PEFT 库，提供 LoRA、Prefix Tuning、Prompt Tuning、P-Tuning 等参数高效微调方法，并与 Transformers 和 Accelerate 集成。
推荐理由：原文给出 PEFT 库支持的方法与消费级硬件上的微调示例，读者可据此判断低成本微调的可行路径。
Hugging Face Blog精选AI 评分6060 SpeechT5 上线 Hugging Face Transformers，支持语音合成、识别与音色转换
Hugging Face 宣布 SpeechT5 已集成进 Transformers，论文作者发布的官方 checkpoint 可在 Hugging Face Hub 获取，并提供语音合成、音色转换和自动语音识别三个 Spaces 演示。
推荐理由：SpeechT5 以同一套编码器解码器架构覆盖 TTS、语音转换与 ASR，读者可据此了解多任务语音模型在 Transformers 中的接入方式。
Hugging Face BlogAI 评分2222 用 AI 为游戏开发生成故事：ChatGPT 实战与局限
Hugging Face 博客"AI for Game Development"系列第 5 篇演示了如何用 ChatGPT 为农场游戏生成故事，包括故事梗概、游戏内文本和商店物品描述。
Hugging Face BlogAI 评分3838 Hugging Face 推出 AI vs. AI：深度强化学习多智能体竞赛系统
Hugging Face 发布开源工具 AI vs. AI，用于在深度强化学习多智能体场景中对模型进行相对排名。该工具由 Space 匹配算法、Dataset 结果存储和展示 ELO 评分的 Leaderboard 三部分组成，模型上传至 Hub 后即自动参与对战评估，初始 ELO 为 1200。
Hugging Face BlogAI 评分2222 用 Intel Sapphire Rapids 加速 PyTorch Transformers：推理篇
Hugging Face 发布博客第二部分，测试在 Intel Sapphire Rapids 服务器上运行 PyTorch Transformers 推理的性能。
Hugging Face BlogAI 评分3232 Hugging Face 博客：深入解析视觉-语言模型的训练方法
Hugging Face 发布博客深入解析视觉-语言模型的训练策略，涵盖对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 以及免训练等五类预训练目标。文章以 OpenAI 的 CLIP 为例说明对比学习如何将图像与文本映射到同一特征空间，并介绍如何用 🤗 Transformers 实验这些最新进展。
Hugging Face BlogAI 评分2222 Hugging Face 计算机视觉现状：8 大任务、3000+ 模型与 100+ 数据集
Hugging Face 公布其计算机视觉生态现状：Hub 上已支持 8 项核心视觉任务、超过 3000 个模型和 100 多个数据集，涵盖 ViT、Swin、DETR 等 Transformer 架构以及 ConvNeXt、ResNet、RegNet 等卷积架构。
Hugging Face BlogAI 评分2222 2D 资产生成：AI 用于游戏开发 #4
Hugging Face 博客"AI for Game Development"系列第 4 篇讲解如何用 Stable Diffusion 的 Image2Image 生成 2D 游戏资产，并以 farming game 的玉米和镰刀图标为例演示完整流程。
Hugging Face Blog精选AI 评分7575 用 LoRA 高效微调 Stable Diffusion
Hugging Face 在 diffusers 中正式支持 LoRA 微调 Stable Diffusion，训练脚本最低可在 11 GB 显存上运行，无需 8-bit 优化器等技巧。由于原模型权重被冻结，只需保存新注入层的权重，单个文件约 3 MB，比原 UNet 小约一千倍，便于分享和下载。文章给出了完整的训练命令、推理时加载 LoRA 权重的代码，以及结合 Dreambooth 的用法。
推荐理由：原文给出 LoRA 微调 Stable Diffusion 的完整脚本与推理流程，读者可据此在 11 GB 显存上复现训练。
Hugging Face BlogAI 评分5252 Hugging Face Optimum 集成 ONNX Runtime 训练，训练提速最高 130%
Hugging Face 与微软 ONNX Runtime 团队合作，在 Optimum 库中集成 ONNX Runtime 训练后端，为多种 Hugging Face 模型带来 35% 以上的训练提速。
Hugging Face BlogAI 评分4242 Hugging Face transformers 集成 Mask2Former 与 OneFormer，统一图像分割
Mask2Former 和 OneFormer 两款统一图像分割模型现已集成到 Hugging Face 开源库 transformers 中。Mask2Former 用同一套架构解决实例、语义和全景分割，但每个任务仍需单独训练；OneFormer 加入文本编码器，仅在全景数据集上训练一次即可在三个任务上达到 SOTA，精度更高但延迟更大。
Hugging Face BlogAI 评分4040 Hugging Face Hub 正式接入 PaddlePaddle 模型库
Hugging Face 与百度 PaddlePaddle 达成开源合作，PaddlePaddle 模型库将逐步集成至 Hugging Face Hub，目前已有超 75 个模型上线，包括 UIE、ERNIE 3.0、Ernie-Layout 等。
Hugging Face BlogAI 评分3434 用 Hugging Face Datasets 和 Transformers 构建图像相似度系统
Hugging Face 发布教程，演示如何用 Transformers 和 Datasets 库构建图像相似度系统，实现反向图像搜索等信息检索场景。
Hugging Face BlogAI 评分2222 AI 用于游戏开发：5 天做出一个农场游戏（第 2 部分）
Hugging Face 博客系列教程第二部分展示如何用 ChatGPT 辅助农场游戏设计，作者让其以专业游戏设计师身份给出作物多样性、进阶系统、动态环境、社交多人、沉浸式剧情等建议，并因 5 天工期只先灰盒实现了前两项。文章同时解释语言模型与 Transformer 原理，并提醒 ChatGPT 常言之凿凿却出错，宜作头脑风暴工具而非开发流程的替代品。
Hugging Face BlogAI 评分2222 Hugging Face 博客：图机器学习入门指南
Hugging Face 发布图机器学习入门博客，梳理图的基本概念、表示方法及学习范式，涵盖从预神经网络方法到图神经网络（GNN），并延伸至面向图的 Transformer。文章还介绍了图在社交网络、分子、知识图谱等场景的应用，以及图级、节点级、边级和子图级四类任务，并区分了直推式与归纳式两种设定。
Hugging Face BlogAI 评分2828 AI 游戏开发实战：5 天用 Stable Diffusion 与 Unity 做出农场游戏（Part 1）
Hugging Face 博客推出"AI for Game Development"系列，演示如何在 5 天内用 AI 工具做出一个完整农场游戏。
Hugging Face BlogAI 评分3434 用 Intel Sapphire Rapids 加速 PyTorch Transformers（上篇）
Hugging Face 展示了如何在 AWS 的 Intel Sapphire Rapids（第四代 Xeon）CPU 集群上加速 PyTorch 训练，借助 Intel oneAPI CCL 做分布式通信、Intel Extension for PyTorch（IPEX）自动启用 AMX 指令，无需改动任何 transformers 代码。
Hugging Face BlogAI 评分4242 用 CLIPSeg 实现零样本图像分割
Hugging Face 发布指南，介绍如何通过 transformers 使用零样本图像分割模型 CLIPSeg。CLIPSeg 在冻结的 CLIP 之上训练 Transformer 解码器，可生成粗略分割掩码，用于机器人感知、图像修复等任务，并支持以文本或示例图像作为提示词的"视觉提示"。
Hugging Face BlogAI 评分3838 Hugging Face 发布 Model Card 创建工具与指南手册
Hugging Face 推出 Model Card Creator Tool 和 Model Card Guide Book，前者提供图形界面，无需编程或写 markdown 即可创建模型卡。同步更新了 huggingface_hub 库中的模型卡模板，并发布注释版模板、用户研究和文献综述。
Hugging Face BlogAI 评分2626 Hugging Face 谈机器学习中的偏见：Ethics and Society Newsletter #2
Hugging Face 的 Ethics and Society Newsletter 第二期聚焦机器学习中的偏见问题，指出偏见普遍且复杂，单一技术手段难以有效解决。文章梳理了偏见如何从 ML 系统演变为个人与社会风险，并介绍了 Hugging Face 团队在数据集与模型等环节开发的偏见分析工具。
Hugging Face BlogAI 评分2222 Hugging Face 音频数据集完全指南：用 🤗 Datasets 一行代码加载与处理
Hugging Face 发布音频数据集使用指南，介绍如何用 🤗 Datasets 的 load_dataset 函数一行代码下载并准备音频数据。文中以 GigaSpeech 为例，其 xs 配置含 10 小时数据，加载后自动划分 train、validation、test 三个 split。Hub 上现有 77 个语音识别数据集和 28 个音频分类数据集，并支持在线试听样本预览。
Hugging Face BlogAI 评分3434 Habana Gaudi2 对比 Nvidia A100 80GB：训练与推理速度实测
Hugging Face 用 Optimum Habana 在 BERT 预训练、Stable Diffusion 推理和 T5-3B 微调上对比了 Habana Gaudi2、初代 Gaudi 与 Nvidia A100 80GB，Gaudi2 训练和推理速度约为 A100 80GB 的两倍。
Hugging Face BlogAI 评分3838 从 GPT2 到 Stable Diffusion：Hugging Face 模型进入 Elixir 生态
Elixir 社区推出 Bumblebee 库，用纯 Elixir 实现了 Hugging Face Transformers，让 GPT2 到 Stable Diffusion 等模型可在 Elixir 中运行。
Hugging Face BlogAI 评分2222 用深度学习研究蛋白质：面向生物学家与机器学习者的入门指南
Hugging Face 发布《Deep Learning with Proteins》教程，面向想入门机器学习的生物学家和想入门生物学的机器学习者，并附上蛋白质语言模型微调（PyTorch、TensorFlow）与 ESMFold 蛋白质折叠（仅 PyTorch）的示例 notebook。
Hugging Face Blog精选AI 评分6767 在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
借助 Apple 工程师提供的转换脚本和推理代码，Stable Diffusion 现在可以通过 Core ML 在 Apple Silicon 上运行，Hugging Face 已将 v1.4、v1.5、v2 base 和 v2.1 base 的官方权重转换并上传到 Hub。
推荐理由：Hugging Face 与 Apple 合作把 Stable Diffusion 转成 Core ML 权重，读者可据此在 Apple Silicon 上本地跑图并了解不同变体的取舍。
Hugging Face BlogAI 评分3636 用 🤗 Transformers 做概率时间序列预测
Hugging Face 博客介绍如何用 🤗 Transformers 库中的 Time Series Transformer 完成单变量概率时间序列预测。该模型基于 Encoder-Decoder 的 vanilla Transformer，通过 Ancestral Sampling 自回归生成预测，并借助掩码处理缺失值，无需插补即可训练。
Hugging Face BlogAI 评分3838 Hugging Face 用 Diffusers 支持 VQ-Diffusion 离散扩散模型
中国科学技术大学与微软提出的 VQ-Diffusion 是一种在量化隐空间上做加噪与去噪的条件隐扩散模型，其隐空间由离散向量集合构成。Hugging Face 现已支持通过 Diffusers 用几行代码运行该模型，加载 microsoft/vq-diffusion-ithq，并可选 FP16 权重。
Hugging Face BlogAI 评分88 Hugging Face 启动 2023 年实习生招聘，开放 8 个 AI 方向岗位
Hugging Face 宣布启动 2023 年实习生项目，开放 8 个岗位，涵盖 Accelerate、Text to Speech、Embodied AI、大语言模型分布式训练框架、LLM 数据集、生成式 ML 社会影响评估和 AI 艺术工具等方向。实习生将与 Hugging Face 导师及对应开源库维护者合作，申请需通过官方招聘门户并注册 Hugging Face 账号。
Hugging Face BlogAI 评分2222 Hugging Face 与 Jonathan Whitaker 推出扩散模型课程并举办直播活动
Hugging Face 与 Jonathan Whitaker 合作的扩散模型课程将于 11 月 28 日发布，免费讲解扩散模型理论与应用。配合课程上线，11 月 30 日将举办社区直播活动，Stable Diffusion 创作者及 Stability AI、Meta 等机构的研究者将带来演讲，聚焦扩散模型概览及构建应用的工具。
Hugging Face BlogAI 评分1212 Hugging Face 机器学习总监洞察系列第四期：电商与工程领域的 ML 实践
Hugging Face 发布《机器学习总监洞察》系列第四期，邀请 Javier Mansilla、Shaun Gittens、Samuel Franklin 和 Evan Castle 四位机器学习总监分享 ML 对各自行业的影响。
Hugging Face BlogAI 评分5050 Hugging Face 发布 Document AI 加速指南：开源模型与六大用例解析
Hugging Face 发文梳理 Document AI 的六大用例及对应开源模型，涵盖 OCR、文档图像分类、版面分析、文档解析等任务。
Hugging Face BlogAI 评分3030 Hugging Face 推理方案概览：免费 Inference API、Inference Endpoints 与 Spaces
Hugging Face 梳理了其推理方案：模型页上的免费 Inference Widget 与免费 Inference API 可零代码或单次 HTTP 请求调用 Hub 模型，但受速率限制，不建议用于生产。
Hugging Face BlogAI 评分4040 Hugging Face Spaces 与 arXiv 集成，论文页面新增 Demo 标签页
Hugging Face 与 arXiv 合作，通过 arXivLabs 将 Spaces 集成进论文页面，新增 Demo 标签页，可直接打开社区或作者创建的开源演示。
Hugging Face BlogAI 评分2828 用同态加密在加密数据上做情感分析：Concrete-ML 实战教程
Hugging Face 博客发布教程，演示如何借助 Concrete-ML 库在全同态加密（FHE）环境下对加密数据做情感分析，数据科学家无需密码学背景即可上手。方案用 BERT 提取文本隐藏表示（hidden size 768），再交给 XGBoost 分类，并通过客户端/服务器协议部署到云端，最后在 Hugging Face Spaces 提供完整 demo。
Hugging Face Blog精选AI 评分6060 Hugging Face 在 transformers 中集成 Contrastive Search 解码方法
Hugging Face 在 transformers 4.24.0 中集成了 Contrastive Search 解码方法，PyTorch 和 TensorFlow 均可用。
推荐理由：Hugging Face 把对比搜索集成进 transformers，读者可据此替换现有解码方式并对比生成质量。