OpenAI 研究：AI 训练如何随规模扩展
OpenAI 发现梯度噪声尺度这一统计指标可预测神经网络训练在多种任务上的可并行性。复杂任务的梯度噪声更大，因此未来更大的 batch size 可能变得有用，从而消除 AI 系统继续扩展的一项潜在限制。该结果还表明，神经网络训练并非神秘技艺，而是可以被严谨化和系统化。
#论文/研究
#论文/研究
今日 0 条OpenAI NewsAI 评分4040
OpenAI NewsAI 评分3030 OpenAI 发布 CoinRun：量化强化学习中的泛化能力
OpenAI 发布训练环境 CoinRun，用于衡量智能体将经验迁移到新情境的能力，并已帮助厘清强化学习领域一个长期存在的难题。该环境在复杂度上取得平衡：比《刺猬索尼克》等传统平台游戏更简单，但仍对当前最先进算法构成值得一试的泛化挑战。
OpenAI NewsAI 评分3131 OpenAI 用能量函数模型学习概念，五次演示即可掌握
OpenAI 开发了一种基于能量的模型，仅需五次演示就能学会识别和生成以 2D 点集表达的概念，如 near、above、between、closest 和 furthest。该模型还展示了跨域迁移能力：在 2D 粒子环境中学习的概念可用于解决 3D 物理机器人任务。
OpenAI NewsAI 评分4040 OpenAI 用基于预测的奖励做强化学习，RND 首次在 Montezuma's Revenge 上超越人类平均表现
OpenAI 提出 Random Network Distillation（RND），一种基于预测的奖励方法，通过好奇心鼓励强化学习智能体探索环境。该方法首次在 Montezuma's Revenge 上超越人类平均表现。
OpenAI NewsAI 评分3636 OpenAI 提出迭代放大（iterated amplification）AI 安全技术
OpenAI 提出一种名为迭代放大（iterated amplification）的 AI 安全技术，通过将复杂任务分解为更简单的子任务来指定超出人类规模的行为与目标，而非依赖标注数据或奖励函数。该构想仍处于极早期阶段，目前仅在简单的玩具算法领域完成实验，OpenAI 认为它可能成为可扩展的 AI 安全方案。
OpenAI NewsAI 评分4242 OpenAI 训练出具备前所未有灵巧度的类人机械手
OpenAI 训练出一只类人机械手，能以史无前例的灵巧度操控实体物体。
OpenAI News精选AI 评分6262 OpenAI 从单次演示中学会 Montezuma's Revenge
OpenAI 训练出一个智能体，仅凭单次人类演示就在 Montezuma's Revenge 上取得 74,500 分的高分，超过此前所有已发表结果。其算法思路是让智能体从演示中精心挑选的状态出发连续进行多局游戏，并用 PPO 优化游戏得分，PPO 也是 OpenAI Five 所依赖的强化学习算法。
推荐理由：OpenAI 用单次人类演示加 PPO 在 Montezuma's Revenge 上取得 74,500 分，可了解其从演示状态起步的训练思路。
OpenAI NewsAI 评分2222 OpenAI Retro Contest 首届比赛结果公布
OpenAI 首届 Retro Contest 已完成，该比赛旨在探索能够从过往经验中泛化迁移的算法。
OpenAI News精选AI 评分8888 OpenAI 用无监督学习提升语言理解能力
OpenAI 用 Transformer 与无监督预训练结合的可扩展、任务无关系统，在一组多样化的语言任务上取得当时最优结果，并对外发布了该系统。这一结果说明监督学习方法与无监督预训练搭配效果很好，作者希望它推动在更大、更多样数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了可扩展的任务无关系统。
OpenAI News精选AI 评分8383 OpenAI 分析：2012 年以来最大 AI 训练算力每 3.4 个月翻倍
OpenAI 发布一项分析，指出自 2012 年以来，最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。同一时期该指标增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用 3.4 个月翻倍这一量化指标，给出 AI 训练算力增速与摩尔定律的对比参照。
OpenAI NewsAI 评分3838 OpenAI 提出通过辩论实现 AI 安全的技术
OpenAI 提出一种 AI 安全技术，训练智能体就话题相互辩论，由人类判断胜负。该方法旨在借助辩论提升 AI 系统的安全性。
OpenAI NewsAI 评分4242 OpenAI 发布 Evolved Policy Gradients 元学习方法
OpenAI 发布实验性元学习方法 Evolved Policy Gradients（EPG），通过进化学习智能体的损失函数，使其能在新任务上快速训练。用 EPG 训练的智能体可在测试时完成训练范围之外的基础任务，例如学会导航到房间中与训练时放置位置相反一侧的物体。
OpenAI NewsAI 评分4242 OpenAI 提出可扩展元学习算法 Reptile
OpenAI 开发出可扩展元学习算法 Reptile，通过反复采样任务、对其执行随机梯度下降，并将初始参数朝该任务最终学到的参数更新。Reptile 是将 Shortest Descent 算法应用于元学习场景，数学上与一阶 MAML 相似，只需对 SGD 或 Adam 等优化器进行黑盒访问，计算效率与性能相近。
OpenAI NewsAI 评分4040 OpenAI 发布八个模拟机器人环境与 HER 基线实现
OpenAI 发布八个模拟机器人环境及 Hindsight Experience Replay 的 Baselines 实现，均为过去一年研究开发，并已用于训练可迁移到实体机器人的模型。同时发布一组机器人研究课题请求。
OpenAI News精选AI 评分6262 OpenAI 等机构联合发布 AI 恶意使用预测论文
OpenAI 与未来人类研究所、存在风险研究中心、新美国安全中心、电子前沿基金会等机构合作，共同撰写了一篇论文，预测恶意行为者可能如何滥用 AI 技术，以及可以预防和缓解这些威胁的潜在方法。该论文是双方近一年持续合作的成果。
推荐理由：OpenAI 与多家机构合作近一年，梳理 AI 被恶意滥用的可能路径与防范思路。
OpenAI NewsAI 评分3333 OpenAI 提出通过教学实现可解释机器学习的方法
OpenAI 设计了一种让 AI 互相教学的方法，所选取的示例同样能被人类理解。该方法自动挑选最具信息量的示例来教授某个概念，例如用最适合描述"狗"这一概念的图像，实验显示其对 AI 教学有效。
OpenAI NewsAI 评分2222 OpenAI 用自动发现的类型实现实体消歧
OpenAI 构建了一套实体消歧系统，通过神经网络判断一个词是否属于约 100 个自动发现的“类型”（非互斥类别），从而自动确定该词指代的是哪个对象。
OpenAI NewsAI 评分2222 OpenAI 发布 Requests for Research 2.0，公布七个未解研究问题
OpenAI 发布 Requests for Research 2.0，公布其在研究过程中遇到的七个未解问题。这是继此前版本之后的新一批问题清单，面向研究社区公开。
OpenAI News精选AI 评分6262 OpenAI 发布块稀疏 GPU kernel
OpenAI 发布针对块稀疏权重神经网络的高度优化 GPU kernel，按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。OpenAI 表示已用这些 kernel 在文本情感分析和文本、图像生成建模上取得当时的最优结果。
推荐理由：OpenAI 公开面向块稀疏权重网络的 GPU kernel，并给出相对 cuBLAS 与 cuSPARSE 的加速幅度和落地任务。
OpenAI NewsAI 评分4242 OpenAI 提出分层强化学习算法，学习高层动作加速长程任务求解
OpenAI 开发出一种分层强化学习算法，能学习对求解多类任务有用的高层动作，从而快速解决需要数千个 timestep 的任务。在一组导航问题上，该算法发现了向不同方向行走和爬行的高层动作集合，使智能体能够快速掌握新的导航任务。
OpenAI NewsAI 评分4040 OpenAI 机器人控制器如何从模拟泛化到真实环境
OpenAI 最新机器人技术让完全在模拟中训练的控制器部署到实体机器人后，能应对环境中的意外变化并完成简单任务。与以往的开环系统不同，这些技术构建的是闭环系统。
OpenAI NewsAI 评分2222 OpenAI 用元学习让机器人摔跤手快速击败更强对手
OpenAI 展示在模拟机器人摔跤任务中，元学习智能体可快速击败更强的非元学习智能体，并能适应自身物理故障。
OpenAI News精选AI 评分6262 OpenAI 研究：自博弈让模拟 AI 自行学会身体技能
OpenAI 发现自博弈能让模拟 AI 自行发现擒抱、闪避、假动作、踢球、接球和扑球等身体技能，而无需在设计环境时显式加入这些技能。自博弈还能让环境难度始终与 AI 水平匹配，便于持续提升。结合此前的 Dota 2 自博弈结果，OpenAI 表示对自博弈将成为未来强大 AI 系统的核心部分越来越有信心。
推荐理由：OpenAI 用自博弈让模拟 AI 自行涌现出擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI NewsAI 评分2626 OpenAI 发布 LOLA 算法：在迭代囚徒困境中建模他方学习
OpenAI 发布 Learning with Opponent-Learning Awareness（LOLA）算法，该算法在建模时考虑其他智能体也在学习，从而在迭代囚徒困境中发现"以牙还牙"这类既自利又合作的策略。OpenAI 称这是迈向能够建模他方心智的智能体的一小步。
OpenAI News精选AI 评分8383 OpenAI 详解 Dota 2：自对弈如何把系统从远低于人类提升到超人水平
OpenAI 发文说明其 Dota 2 结果表明，在算力充足的前提下，自对弈能把机器学习系统的表现从远低于人类水平提升到超人水平。该系统在一个月内从勉强与高排名玩家打平，发展到击败顶尖职业选手，此后仍在持续进步。OpenAI 指出，监督式深度学习系统的上限取决于训练数据集，而自对弈系统的可用数据会随着智能体变强而自动改善。
推荐理由：OpenAI 用 Dota 2 结果说明自对弈在算力充足时能把系统从远低于人类提升到超人水平。
OpenAI News精选AI 评分8080 OpenAI 打造在 Dota 2 1v1 中击败顶尖选手的机器人
OpenAI 宣布其打造的机器人在标准锦标赛规则下的 Dota 2 1v1 对战中击败了世界顶尖职业选手。该机器人完全通过自我对弈从零学习游戏，未使用模仿学习或树搜索。OpenAI 称这是迈向在涉及真实人类的混乱复杂情境中完成明确目标的一步。
推荐理由：OpenAI 用自我对弈从零训练出在标准赛制 1v1 中击败顶尖选手的 Dota 2 机器人，可作为复杂环境中目标导向 AI 的早期样本。
OpenAI NewsAI 评分2020 OpenAI 用参数噪声改进强化学习探索
OpenAI 发现，向强化学习算法的参数中加入自适应噪声（参数噪声）往往能提升性能。该方法实现简单，且极少导致性能下降，因此值得在任何问题上尝试。
OpenAI News精选AI 评分6060 OpenAI 发布可稳定欺骗神经网络分类器的对抗样本图像
OpenAI 表示已生成一批图像，在多种尺度和视角下都能稳定欺骗神经网络分类器。这一结果对上周提出的说法构成挑战，即自动驾驶汽车因从多个尺度、角度和视角采集图像而难以被恶意欺骗。
推荐理由：OpenAI 用多尺度多视角仍能骗过分类器的图像，回应了上周关于自动驾驶难以被恶意欺骗的说法。
OpenAI News精选AI 评分6262 OpenAI 与 DeepMind 合作提出从人类偏好中学习的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类指出两种候选行为中哪一个更好，来推断人类想要什么。OpenAI 称，构建安全 AI 系统的一步是免去人类编写目标函数的需要，因为用简单代理替代复杂目标、或把复杂目标写偏一点，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队合作提出用人类偏好比较替代手写目标函数，为对齐研究提供了一条早期思路。
OpenAI NewsAI 评分2222 OpenAI 谈多智能体环境：学会合作、竞争与沟通
OpenAI 发文指出，智能体争夺资源的多智能体环境是通往 AGI 的踏脚石。这类环境具备两个有用特性：难度由竞争对手的水平决定，与自身克隆体竞争时难度恰好匹配自身水平；同时不存在稳定均衡，智能体再聪明也始终面临变得更聪明的压力。
OpenAI News精选AI 评分6262 OpenAI 发布可在实体机器人上单次学习新任务的机器人系统
OpenAI 发布一套机器人系统，完全在仿真环境中训练后部署到实体机器人上，能够在看过一次示范后学会一项新任务。
推荐理由：OpenAI 早期机器人研究，展示仿真训练后迁移到实体机器人并实现单次示范学习新任务。
OpenAI NewsAI 评分4343 OpenAI 无监督情感神经元：仅预测下一字符即可学到情感表征
OpenAI 开发了一个无监督系统，仅通过预测 Amazon 评论中的下一个字符进行训练，就学到了出色的情感表征。该系统无需情感标注数据，即可在文本中捕捉情感信息。
OpenAI NewsAI 评分2222 OpenAI 打造全球首个在仿真中训练、部署于实体机器人的垃圾邮件检测 AI
OpenAI 称已打造出全球首个完全在仿真环境中训练、并部署到实体机器人上的垃圾邮件检测 AI。该系统将仿真训练与物理机器人部署结合，用于在物理世界中进行垃圾邮件检测。
OpenAI NewsAI 评分4646 OpenAI 发现进化策略可作为强化学习的可扩展替代方案
OpenAI 发现，已有数十年历史的进化策略（ES）在现代强化学习基准（如 Atari/MuJoCo）上性能可与标准强化学习（RL）技术相媲美，同时克服了 RL 的诸多不便。
OpenAI NewsAI 评分5858 OpenAI 研究：智能体如何学会自己发展出语言
OpenAI 发布一项新研究，介绍智能体在其中发展出自己的语言。该帖仅给出研究概要，未提供完整正文。
OpenAI NewsAI 评分2222 OpenAI 探讨强化学习中的奖励函数设定错误
OpenAI 发文探讨强化学习算法中一种反直觉的失效模式：奖励函数设定错误。当奖励函数被错误指定时，算法会以出人意料的方式出现故障。
OpenAI NewsAI 评分4242 OpenAI 参与合著 Google Brain 主导的 AI 安全论文《Concrete Problems in AI Safety》
OpenAI 与 Berkeley、Stanford 研究人员共同合著了 Google Brain 主导的论文《Concrete Problems in AI Safety》，该论文探讨了确保现代机器学习系统按预期运行的诸多研究问题。
OpenAI NewsAI 评分1818 OpenAI 解读生成模型：四个项目与生成模型的现状与未来
OpenAI 介绍了四个围绕生成模型的项目，生成模型是机器学习中无监督学习技术的一个分支。文章同时解释了生成模型是什么、为何重要，以及它们可能的发展方向。