训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
Mistral AI 本周签署最终协议收购 Physics AI 先驱 Emmi AI，以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利，专注 Physics AI 与大型工程模型，可实时仿真替代多日计算并构建数字孪生，其 30 多名研究人员与工程师将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。
推荐理由：Mistral 通过收购 Physics AI 公司 Emmi 补强工业仿真能力，读者可了解其 Science 路线与工业 AI 布局。
Google 宣布把基于 Gemini 的科研工具 Empirical Research Assistance（ERA）开放给科学家使用，相关论文当天发表于 Nature。
推荐理由：Google 把 ERA 从 Nature 论文推进到可申请使用的工具，并给出八个跨学科应用案例，读者可据此判断科研编码自动化的落地边界。
Google DeepMind 在 Nature 发表 Co-Scientist 研究，推出基于 Gemini 的多智能体 AI 系统，可迭代生成、辩论并演化复杂科学问题的新假设。
推荐理由：原文披露了多智能体系统的三阶段架构与辩论式排序机制，并给出多个实验室的落地案例，可据此判断 AI 参与科学假设生成的实际边界。
Google Research 介绍其 Empirical Research Assistance（ERA）在四个真实科研场景中的应用：公共卫生领域，团队每周向 CDC 的流感。
推荐理由：Google 官方梳理 ERA 在流行病预测、宇宙学、碳监测与神经科学四类真实科研任务中的落地方式，可看到 AI 辅助科研的具体边界。
IBM Granite 团队发布技术长文，详解 Granite 4.1 系列稠密解码器模型（3B、8B、30B）的构建流程：在约 15T token 上分五阶段预训练，上下文窗口经分阶段扩展至 512K，随后用约 4.1M 高质量样本做 SFT，并通过 on-policy GRPO 配合 DAPO loss 的多阶段 RL 强化数学、编码、指令遵循与通用对话能力。
推荐理由：Granite 4.1 完整披露五阶段预训练、SFT 与多阶段 RL 的数据配比和训练配置，可对照其 8B 稠密模型追平 32B-A9B MoE 的结论。
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，把大规模训练拆分为解耦的计算“岛屿”，岛屿间异步传输数据，从而隔离局部硬件故障。
推荐理由：原文给出分布式训练新架构的带宽、容错与跨代硬件实测数据，可据此判断大规模预训练基础设施的演进方向。
Hugging Face 发布 TRL v1.0，将这一原本的研究代码库正式定位为带明确稳定性契约的后训练库，目前实现超过 75 种后训练方法，月下载量 300 万次。
推荐理由：TRL v1.0 把稳定核心与实验层分开，并给出与同类后训练库的横向对比，便于判断选型。
NVIDIA 发布一套嵌入模型微调流程，用单张 GPU 和不到一天时间把通用嵌入模型改造成理解特定领域的模型，无需人工标注。流程基于 Llama-Nemotron-Embed-1B-v2，用 LLM 从领域文档生成合成问答对、挖掘难负样本并做多跳展开，再用对比学习微调。
推荐理由：给出从合成数据生成到部署的完整嵌入模型微调流程，含 Atlassian 实测提升数据，可迁移到自有领域语料。
Hugging Face 发布《State of Open Source on Hugging Face: Spring 2026》，基于平台数据回顾过去一年开源 AI 生态变化。
推荐理由：Hugging Face 用平台数据勾勒开源 AI 一年变化，中国模型下载占比与机器人数据集增长是两条主线。
Mistral AI 推出 Forge，一套让企业基于自有专有知识构建前沿级 AI 模型的系统，支持预训练、后训练和强化学习等阶段。Forge 支持 dense 与 MoE 架构，并可按需支持多模态输入，模型可在企业自有基础设施内训练和治理。该平台以 Agent 优先设计，Mistral Vibe 等自主智能体可用其微调模型、寻找最优超参数、调度任务并生成合成数据，用户只需用自然语言即可定制模型。
推荐理由：Forge 把预训练、后训练与强化学习打包成企业自建模型的入口，读者可据此判断企业级定制模型的落地路径。
Photoroom 在 Hugging Face 博客发布 PRX 系列第三篇，用 32 张 H200、约 1500 美元预算在 24 小时内训练出一个文生图扩散模型。
推荐理由：Photoroom 公开了 24 小时训练文生图模型的完整配方与代码，读者可据此复现并调整各组件。
Hugging Face 发文介绍 transformers 库为 Mixture of Experts 模型所做的工程改造，涵盖权重加载重构、专家后端与专家并行三部分。
推荐理由：Hugging Face 官方拆解 transformers 为 MoE 做的加载、后端与并行改造，并给出 v4 与 v5 的加载耗时对比。
微软团队发布 Differential Transformer V2，通过为每个 token 和每个 head 投影 λ 并只增加 query head 数量、保持 KV head 不变，使解码速度与标准 Transformer 持平且无需自定义注意力 kernel。
推荐理由：微软团队给出 Differential Transformer V2 的注意力实现与消融对比，读者可了解差分注意力在解码速度与训练稳定性上的取舍。
Google Research 在 Science Advances 发表论文，介绍混合模型 NeuralGCM 直接使用 NASA 2001 至 2018 年卫星降水观测训练其机器学习部分，而非依赖再分析数据。
推荐理由：NeuralGCM 改用卫星降水观测训练后，在 15 天预报与数十年气候模拟上均优于传统模型，读者可了解混合建模路线的具体收益。
Google Research 发布 Titans 架构和 MIRAS 理论框架，将 RNN 的速度与 Transformer 的精度结合，实现测试时记忆。Titans 用深度神经网络作为长期记忆模块，通过 surprise 指标、动量和自适应权重衰减选择性存储信息；MIRAS 则统一了序列建模的四个设计选择，并衍生出 YAAD、MONETA、MEMORA 三个无注意力模型。
推荐理由：Google 提出 Titans 架构与 MIRAS 框架，用深度神经网络做长期记忆模块，在超长上下文任务上超过 GPT-4。
Hugging Face 发布 Transformers v5.0.0rc-0，距 v4 首个候选版已五年，如今该库每天通过 pip 安装超 300 万次，累计安装量突破 12 亿。
推荐理由：官方梳理了 v5 在简化模型定义、训练与推理上的改动，可据此判断生态工具链的兼容方向。
Hugging Face TRL 官方集成 RapidFire AI，用户可用 RFSFTConfig、RFDPOConfig、RFGRPOConfig 近乎零代码替换原有 SFT/DPO/GRPO 配置，并发运行多个微调配置。
推荐理由：官方集成给出了并发配置对比的调度机制与实测加速数据，可据此判断微调实验流程能压缩多少时间。
Google DeepMind 与 Google Research 发布 WeatherNext 2，称其生成预报速度提升 8 倍，分辨率最高可达 1 小时。
推荐理由：原文给出生成速度、分辨率与可用入口，读者可据此判断该模型在天气预报工作流中的位置。
Hugging Face 发布博客《On the Shifting Global Compute Landscape》，梳理中国开源权重模型与国产芯片互相牵引的现状：过去几个月，华为昇腾、寒武纪等芯片已开始承载部分高性能开源模型的推理，部分模型开始用国产芯片训练。
推荐理由：梳理中国开源模型与国产芯片互相牵引的路径，帮助读者理解算力受限如何影响模型架构与部署选择。
Hugging Face 发布 datasets 库流式加载的性能改进，保持 streaming=True 的原有 API 不变，数据文件解析速度提升 10 倍、启动请求最多减少 100 倍、流式速度最多提升 2 倍。
推荐理由：Hugging Face 官方给出流式加载的性能改进细节与配置方式，读者可据此判断大规模训练的数据读取成本。