让 AI 成为资产而非开支:企业自建 AI 容量的经济性拐点
HPE 提出企业应从按 token 消费转向自建 AI 容量,当需求稳定且规模足够时,拥有容量的单位成本可能低于逐次购买。Deloitte 2026 企业 AI 报告显示,2025 年员工 AI 使用率上升 5%,至少 40% AI 项目投产的公司比例预计半年内翻倍。企业需按实际工作负载测算交叉点,并通过采用、治理和用例扩展保持容量产出。
HPE 提出企业应从按 token 消费转向自建 AI 容量,当需求稳定且规模足够时,拥有容量的单位成本可能低于逐次购买。Deloitte 2026 企业 AI 报告显示,2025 年员工 AI 使用率上升 5%,至少 40% AI 项目投产的公司比例预计半年内翻倍。企业需按实际工作负载测算交叉点,并通过采用、治理和用例扩展保持容量产出。
Simon Willison 在 WeAreDevelopers World Congress North America 的主题演讲中,按时间线梳理了 2026 年 LLM 的关键进展。
TypeSafe AI 发布首个大型可编程模型 Jev,定位为面向代码消费的 System 1 模型,按每美元智能优化,官方称上线后日处理 token 已超过一万亿。
NVIDIA 提出 AI 安全是工程问题,需在 Agent 栈每一层落实可执行边界、明确责任人和验证证据。其开源安全运行时 NVIDIA OpenShell 在智能体可控范围之外强制执行策略并提供沙箱执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描并校验智能体技能。
Hugging Face 博客指出,AI 的下一个真正约束不是智能而是利用率:GPU 按日历小时计费,产出却只按计算小时累积,两家 GPU 预算相当的公司会因硬件实际使用率而拉开差距。文章以航空业为类比,称即便集群 GPU 满载也可能浪费大部分潜力,因为 GPU 全天运行而需求并非如此,基础设施必须按峰值配置。
伯克利 AI 研究提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1、部分厂商低于 $0.10,数据系统面临三大新挑战:为智能体设计(Data Systems For Agents)、由智能体运行(Of Agents)、由智能体构建(By Agents)。
Hugging Face 博客指出,企业级 AI 规模化落地的关键不在 LLM 本身,而在 agentic layer 中的 agent logic——知识图谱、算法、程序分析库等软件原语,可引导 LLM 聚焦企业工作流、压缩上下文空间。
中国开源模型已几乎一致转向 MoE 架构,Kimi K2、MiniMax M2、Qwen3 均采用该路线,以在成本约束下兼顾能力与灵活部署。0.5B–30B 小模型成为本地运行与微调主力,Apache 2.0 接近默认许可证。DeepSeek-V3.2-Exp 获华为昇腾与寒武纪 day-zero 支持,蚂蚁 Ling 用国产芯片训练 1 万亿 token 成本降约 20%。
Hugging Face 发布博客《On the Shifting Global Compute Landscape》,梳理中国开源权重模型与国产芯片互相牵引的现状:过去几个月,华为昇腾、寒武纪等芯片已开始承载部分高性能开源模型的推理,部分模型开始用国产芯片训练。
推荐理由:梳理中国开源模型与国产芯片互相牵引的路径,帮助读者理解算力受限如何影响模型架构与部署选择。
Hugging Face 发布“机器学习负责人洞察”系列金融版,邀请来自 U.S. Bank、Royal Bank of Canada、Moody's Analytics 及前 Bloomberg AI 研究科学家的专家分享金融业 ML 落地经验。
Hugging Face 机器学习工程师 Lewis Tunstall 在访谈中介绍了他为 transformers 库开发的功能:将 PyTorch 模型导出为 ONNX 格式,只需一行代码即可完成转换,从而获得更低的延迟和更高的吞吐量。他还与 Leandro von Werra 合著了《NLP with Transformers》一书,并谈到大规模模型评估等话题。
Hugging Face 发文质疑微软与 NVIDIA 发布的 Megatron-Turing NLG 530B 这类超大模型趋势,指出复现该实验需花费近 1 亿美元,且训练 BERT 的碳排放已相当于一次跨美飞行。文章主张改用预训练模型、更小模型(如 DistilBERT 保留 97% 语言理解能力、体积小 40%、速度快 60%)和微调等务实方案。
Hugging Face 发文称机器学习正走向“代码化”,主张用软件工程与 DevOps 的成熟实践(版本管理、可复用、可测试、自动化、部署与监控)来构建生产级 ML 系统,即 MLOps。