Hugging Face 深度强化学习课程:Q-Learning 入门(第一部分)
Hugging Face 深度强化学习课程更新第二单元第一部分,讲解基于价值的方法,并区分蒙特卡洛与时序差分学习。内容涵盖状态价值函数、动作价值函数与贝尔曼方程,为下一部分实现首个 Q-Learning 智能体做铺垫。
Hugging Face 深度强化学习课程更新第二单元第一部分,讲解基于价值的方法,并区分蒙特卡洛与时序差分学习。内容涵盖状态价值函数、动作价值函数与贝尔曼方程,为下一部分实现首个 Q-Learning 智能体做铺垫。
Hugging Face 研究科学家 Sasha Luccioni 在播客访谈中介绍了她在 Big Science 项目中主持碳足迹工作组的工作,研究范围涵盖 GPU 训练时长、制造成本乃至单封邮件的 CO2 排放。她还参与数据工作组,推动数据筛选与多语言化,避免模型训练数据几乎全为英文。
Hugging Face 宣布启动 Fellowship 计划,由团队成员或现任 Fellow 提名,面向推动开源机器学习民主化的贡献者。首批 Fellow 包括创建西语 NLP 社区的 María Grandury、向 Hub 贡献超 300 个模型的 Manuel Romero 等。
Hugging Face 发布 Gradio 3.0,对 Gradio 库进行彻底重设计,前端改用 Svelte 等现代技术,页面体积更小、加载更快,并新增 Gallery 组件和 TabbedInterface 类。
推荐理由:Gradio 3.0 重写前端并推出 Blocks 低层 API,读者可了解它如何让 Python 直接搭建复杂自定义 ML 演示。
Hugging Face 开放首届 Student Ambassador Program 申请,截止日期为 2022 年 6 月 13 日,计划于 6 月 30 日启动、12 月 31 日结束。
Hugging Face 博客发布“机器学习总监洞察”系列第二部分,聚焦 SaaS 领域,采访了 Salesforce 的 Omar Rahman 和 Amplitude 的曹(Danica)肖等机器学习负责人。Omar 提到,采用新的 Transformer 语音技术后团队错误率下降 30%,并强调应关注业务问题而非追逐最新算法。
Hugging Face 开源库 Optimum 发布 1.2 版本,新增对 Transformers pipelines 的推理支持,首批接入 ONNX Runtime,用户可将 AutoModelForXxx 替换为对应的 ORTModelForXxx 类。
Hugging Face 宣布完成 1 亿美元 C 轮融资,由 Lux Capital 领投,Sequoia、Coatue 等参投。官方称平台已托管 10 万个预训练模型和 1 万个数据集,超过 1 万家公司使用其产品与服务,团队在过去 12 个月从 30 人扩展到 120 多人。新资金将投入研究、开源、产品以及 AI 的负责任普及。
推荐理由:Hugging Face 官方披露 C 轮融资规模与投资方,并给出平台模型、数据集和客户体量,可据此判断开源机器学习平台的商业化进展。
fastai 现已接入 Hugging Face Hub,开发者用一行 Python 的 push_to_hub_fastai 就能把 Learner 上传到 Hub,并通过 from_pretrained_fastai 加载他人模型。
Hugging Face 推出免费深度强化学习课程,第一单元讲解深度强化学习基础,涵盖 RL 框架、马尔可夫性质、观测/状态空间、动作空间、奖励与折扣、探索/利用权衡,以及基于策略和基于价值两类方法。
Hugging Face 介绍如何用 Accelerate 库无需改动代码即可启用 PyTorch FullyShardedDataParallel(FSDP)训练大模型。
HuggingFace AutoTrain 与数据标注平台 Kili 可组合成一套主动学习流水线,用于文本分类:在 Kili 中标注数据、用 AutoTrain 自动完成数据清洗、模型选择与超参数优化,再迭代重训模型。
Hugging Face 与 Habana Labs 合作,在 Amazon EC2 DL1 实例的 Habana Gaudi 加速器上微调 BERT 模型,Gaudi 相比最新 GPU 版 EC2 实例训练性价比最高提升 40%。
Hugging Face 发布教育计划,目标在 2023 年底前教会 500 万人机器学习。该计划面向所有人、初学者和教师,提供 NLP、深度强化学习、Gradio 演示构建等免费课程,以及已翻译成 8 种语言的教师工具包,并可通过 ML demo.cratization tour 申请团队授课。
Hugging Face 发布博客,演示如何用其生态工具处理客户服务场景:将筛选不满客户消息建模为文本分类任务,按 5 档情感(very unsatisfied 到 very satisfied)分类。
Hugging Face Hub 推出 emissions_threshold 参数,可按训练碳排放量筛选模型,例如搜索排放不超过 100 克的模型可返回 191 个结果。Transformers 集成 codecarbon,训练时自动记录排放数据并生成 emissions.csv,方便写入模型卡。
Hugging Face 机器学习工程师 Lewis Tunstall 在访谈中介绍了他为 transformers 库开发的功能:将 PyTorch 模型导出为 ONNX 格式,只需一行代码即可完成转换,从而获得更低的延迟和更高的吞吐量。他还与 Leandro von Werra 合著了《NLP with Transformers》一书,并谈到大规模模型评估等话题。
Habana Labs 与 Hugging Face 宣布合作,将 Habana 的 SynapseAI 软件套件与 Hugging Face Optimum 开源库集成,开发者只需几行代码即可在 Habana Gaudi 处理器上加速 Transformer 训练。
Hugging Face 的 Transformers 库有意不遵循 DRY 原则,转而采用"单一模型文件策略":模型前向传播所需的全部代码只放在一个模型文件中,注意力机制代码在不同模型文件里被复制超过 50 次。官方给出的理由包括该库由开源社区共建、建模代码本身就是产品、机器学习领域演进极快,以及模型发布后基本静态不变。
Hugging Face 将离线强化学习方法 Decision Transformer 集成进 transformers 库和 Hugging Face Hub,并发布 9 个 Gym 环境连续控制任务的预训练 checkpoint,覆盖 Hopper、Walker2D 和 Halfcheetah,Atari 环境 checkpoint 即将推出。
Hugging Face 发布机器学习专家访谈,嘉宾 Margaret Mitchell 曾创立并联合领导 Google 伦理 AI 团队,现于 Hugging Face 制定伦理 AI 研究协议与包容性招聘体系。
Hugging Face 推出为期 9 个月的 AI Research Residency Program,入选者将与 Science Team 研究员合作选定研究课题、开发新的机器学习技术并争取发表成果。该项目为全职,申请截止 2022 年 4 月 3 日,无需搬迁,欢迎各类背景申请者。
Hugging Face 发布教程,演示如何用自建人行道数据集 segments/sidewalk-semantic 微调 SegFormer 语义分割模型,并借助 transformers 与 Hugging Face Hub 完成训练。
Hugging Face 发布端到端教程,演示如何用 Hugging Face Transformers、Amazon SageMaker 和 AWS Inferentia 加速 BERT 文本分类推理。
Hugging Face 展示了如何用 🤗 datasets 的 Image 特征类型结合 sentence_transformers 和 faiss,为图像数据集构建相似度搜索应用。
Hugging Face 在 Transformers 中推出约束束搜索(constrained beam search),通过 model.generate() 的 force_words_ids 参数让用户指定输出中必须包含的词或短语。
Hugging Face 发布教程,演示如何用 🤗 datasets 加载 beans 图像分类数据集,并借助 🤗 transformers 微调预训练 ViT 模型。教程使用 google/vit-base-patch16-224-in21k 及其配套 ViTImageProcessor,将图像处理为 (1, 3, 224, 224) 的 pixel_values 张量后送入模型训练。
Hugging Face Hub 上已有超过 215 个公开的情感分析模型,用 Python 的 transformers pipeline 只需 5 行代码即可调用,默认模型对 "I love you" 和 "I hate you" 分别给出 0.9998 和 0.9991 的置信度。
Hugging Face 博客介绍如何利用 Wav2Vec2 所用 CTC 架构的特性,在 Transformers 中对任意长音频乃至实时流做语音识别。
推荐理由:原文给出 CTC 模型分块加 stride 的具体参数与代码,读者可据此在长音频和实时场景中复用。
huggingface_hub 库新增 ModelSearchArguments 和 ModelFilter 类,让用户无需离开 IDE 即可通过 Python API 搜索 Hub 上的模型和数据集。
Hugging Face 将 PyTorch 深度强化学习库 Stable-Baselines3 集成到 Hugging Face Hub,用户可通过 huggingface_sb3 库上传和加载已保存的智能体模型。
Hugging Face 公布 Infinity 在第三代 Intel Xeon 可扩展处理器(Ice Lake)上的端到端推理基准:优化后的 DistilBERT 序列分类容器相比 Ice Lake 上原生 Transformers 延迟与吞吐最高提升 800%,相比 Cascade Lake 实例提升最高 34%。
🤗 Transformers 现已集成 Kensho Technologies 的 pyctcdecode 库,可将 n-gram 语言模型与微调后的 Wav2Vec2 checkpoint 结合解码音频。
Hugging Face 发布教程,介绍如何用 Transformers 和 Amazon SageMaker 将 EleutherAI 的 GPT-J 6B 部署为实时推理端点。
Hugging Face 的 AutoNLP 与 Explosion 的标注工具 Prodigy 可组合成主动学习流水线:用 Prodigy 对 BBC News 数据集做 NER 标注,每积累约 20 条样本就用 AutoNLP 重新训练模型。
Hugging Face 收购机器学习初创公司 Gradio,Gradio 联合创始人发文确认这一消息。Gradio 自 2019 年发布以来已有超过 30 万个 demo 用它构建,用于让非技术用户也能使用和反馈机器学习模型。作者表示加入 Hugging Face 后会继续发展 Gradio,让任何有浏览器和网络连接的人都能用上机器学习。
推荐理由:Gradio 创始人以当事方身份讲述被 Hugging Face 收购的经过,读者可了解这次收购的来龙去脉与双方在开源机器学习可及性上的共同目标。
Hugging Face 在 Transformers 库中加入 Perceiver IO,这是首个可处理文本、图像、音频、视频、点云等多种模态及其组合的 Transformer 类模型。
推荐理由:Hugging Face 把 Perceiver IO 集成进 Transformers,读者可了解其跨模态架构与各模态实现细节。
Hugging Face 发布教程,介绍如何从零训练名为 CodeParrot 的 GPT-2 代码生成模型,用于自动补全 Python 代码。
推荐理由:完整给出从数据清洗、分词器训练到多卡训练循环的代码,可迁移到自建代码生成模型的预训练流程。
Hugging Face 发布首个自研深度强化学习环境 Snowball Fight 1vs1,基于 Unity ML-Agents 构建,玩家可与深度强化学习智能体对战扔雪球,游戏已托管在 Hugging Face Spaces 并可在线游玩。训练环境已在 Hugging Face Hub 开源,后续将推出 2vs2 版本,使用 MA-POCA 算法训练智能体团队协作。
Hugging Face 与 Graphcore 合作推出 Optimum Graphcore,首个 IPU 优化模型为 BERT,开发者可借助 Hugging Face Transformers 在 IPU 上训练、微调和加速模型。