OpenAI 谈 AI 系统应如何表现以及由谁决定
OpenAI 发文说明 ChatGPT 的行为是如何被塑造的，并介绍其改进计划，包括让用户拥有更多自定义空间，以及在相关决策中引入更多公众意见。
推荐理由：OpenAI 说明 ChatGPT 行为如何被塑造，并给出用户自定义与公众参与决策的改进方向。
全部AI 动态
全部动态
今日 2 条OpenAI News精选AI 评分6262
OpenAI NewsAI 评分1010 OpenAI 的 Lilian Weng 谈持续学习的力量
OpenAI 应用 AI 研究团队的 Lilian Weng 探讨持续学习。原文未披露具体模型、参数或评测数据。
Hugging Face BlogAI 评分2626 Hugging Face 谈机器学习中的偏见：Ethics and Society Newsletter #2
Hugging Face 的 Ethics and Society Newsletter 第二期聚焦机器学习中的偏见问题，指出偏见普遍且复杂，单一技术手段难以有效解决。文章梳理了偏见如何从 ML 系统演变为个人与社会风险，并介绍了 Hugging Face 团队在数据集与模型等环节开发的偏见分析工具。
Hugging Face BlogAI 评分1212 Hugging Face 机器学习总监洞察系列第四期：电商与工程领域的 ML 实践
Hugging Face 发布《机器学习总监洞察》系列第四期，邀请 Javier Mansilla、Shaun Gittens、Samuel Franklin 和 Evan Castle 四位机器学习总监分享 ML 对各自行业的影响。
OpenAI NewsAI 评分2626 OpenAI 的对齐研究思路
OpenAI 正在提升 AI 系统从人类反馈中学习、以及协助人类评估 AI 的能力。其目标是构建一个足够对齐的 AI 系统，进而帮助解决其余所有对齐问题。
Hugging Face BlogAI 评分1212 Hugging Face 金融业机器学习负责人洞察：RBC 与 Moody's Analytics 专家谈 ML 落地挑战
Hugging Face 发布“机器学习负责人洞察”系列金融版，邀请来自 U.S. Bank、Royal Bank of Canada、Moody's Analytics 及前 Bloomberg AI 研究科学家的专家分享金融业 ML 落地经验。
Hugging Face BlogAI 评分2020 Hugging Face 多模态学习团队发布伦理章程，将伦理原则置于研究生命周期核心
Hugging Face 多模态学习团队发布了一份伦理章程，将伦理原则正式纳入其机器学习研究生命周期的起点。章程列出了要防止的用例，包括生成虚假信息、生成个人身份信息、在医疗、法律、金融和移民等高风险领域的不谨慎使用，以及各类歧视性内容。团队同时提出透明、开放可复现、公平、自我批判和尊重署名五项价值观，并承认这些价值观之间有时会相互冲突，需逐案权衡。
Hugging Face BlogAI 评分1515 Hugging Face 机器学习专家 Sasha Luccioni 谈 AI 碳足迹与数据治理
Hugging Face 研究科学家 Sasha Luccioni 在播客访谈中介绍了她在 Big Science 项目中主持碳足迹工作组的工作，研究范围涵盖 GPU 训练时长、制造成本乃至单封邮件的 CO2 排放。她还参与数据工作组，推动数据筛选与多语言化，避免模型训练数据几乎全为英文。
Hugging Face BlogAI 评分1212 Hugging Face 对话 Salesforce、ZoomInfo 等 SaaS 公司机器学习总监
Hugging Face 博客发布“机器学习总监洞察”系列第二部分，聚焦 SaaS 领域，采访了 Salesforce 的 Omar Rahman 和 Amplitude 的曹（Danica）肖等机器学习负责人。Omar 提到，采用新的 Transformer 语音技术后团队错误率下降 30%，并强调应关注业务问题而非追逐最新算法。
Hugging Face BlogAI 评分1212 Hugging Face 对话多位机器学习总监：ML 在媒体、制药等行业的实践与挑战
Hugging Face 发布系列文章，邀请 BuzzFeed、Johnson & Johnson 等公司的机器学习总监分享 ML 落地经验。BuzzFeed 的 Archi Mitra 谈到媒体行业用深度学习做隐私优先的个性化推荐、人机协作辅助创作工具，并指出编辑声音与 ML 推荐的平衡是难点。
OpenAI NewsAI 评分4040 OpenAI 如何衡量 Goodhart 定律
OpenAI 探讨 Goodhart 定律在 AI 目标优化中的体现：当一个度量指标变成目标时，它就不再是好的度量。OpenAI 指出，在优化难以或高成本衡量的目标时，必须应对这一问题。
Hugging Face BlogAI 评分1515 Hugging Face 工程师 Lewis Tunstall 谈 transformers 库与 ONNX 导出优化
Hugging Face 机器学习工程师 Lewis Tunstall 在访谈中介绍了他为 transformers 库开发的功能：将 PyTorch 模型导出为 ONNX 格式，只需一行代码即可完成转换，从而获得更低的延迟和更高的吞吐量。他还与 Leandro von Werra 合著了《NLP with Transformers》一书，并谈到大规模模型评估等话题。
Hugging Face BlogAI 评分2222 Hugging Face 机器学习专家访谈：Margaret Mitchell 谈伦理 AI 与数据偏见
Hugging Face 发布机器学习专家访谈，嘉宾 Margaret Mitchell 曾创立并联合领导 Google 伦理 AI 团队，现于 Hugging Face 制定伦理 AI 研究协议与包容性招聘体系。
OpenAI NewsAI 评分2222 OpenAI 分享语言模型安全与滥用问题的经验教训
OpenAI 分享了其在语言模型安全与滥用方面的最新思考，旨在帮助其他 AI 开发者应对已部署模型的安全与滥用问题。
Hugging Face BlogAI 评分2222 大语言模型：新的摩尔定律？
Hugging Face 发文质疑微软与 NVIDIA 发布的 Megatron-Turing NLG 530B 这类超大模型趋势，指出复现该实验需花费近 1 亿美元，且训练 BERT 的碳排放已相当于一次跨美飞行。文章主张改用预训练模型、更小模型（如 DistilBERT 保留 97% 语言理解能力、体积小 40%、速度快 60%）和微调等务实方案。
Hugging Face BlogAI 评分2222 Hugging Face：机器学习即代码的时代已经到来
Hugging Face 发文称机器学习正走向“代码化”，主张用软件工程与 DevOps 的成熟实践（版本管理、可复用、可测试、自动化、部署与监控）来构建生产级 ML 系统，即 MLOps。
OpenAI NewsAI 评分66 OpenAI 特别项目：攻克真正重要的科学问题
OpenAI 提出，有影响力的科学工作需要在正确的问题上下功夫——这些问题不仅有趣，其解决方案更要真正重要。
OpenAI NewsAI 评分1010 OpenAI 的技术目标
OpenAI 公布其技术目标，核心使命是构建安全的 AI，并确保 AI 带来的益处尽可能广泛且均衡地分配。