纳德拉倡议AI模型须设紧急刹车

2026年10月11日，微软CEO Satya Nadella在X发文，提出应重新审视AI的信任架构。他主张把模型与编排其工作的harness分离，并将控制与防护措施外部化；要求每个有意义的模型动作都留下防篡改、人类可读的证据，并让授权人员能随时暂停或关闭执行中的模型。他称要假设模型已被攻破并从一开始就加以约束，就像紧急刹车。同日The Verge报道，纳德拉在X发长文谈高级AI模型风险，称不能再接受把AI当作一组嵌套黑盒、只能接受或拒绝其建议与行动；他主张建立可隔离、可观察并留下防篡改人类可读证据的透明系统，必须从一开始就假定模型已被攻陷并加以隔离，授权人员应能随时暂停或关闭执行中的模型，更先进的模型需要标准化更先进的隔离技术。目前该表态仍处于倡议阶段，报道未提及具体落地措施或时间表。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。