Cognition CEO 谈如何用 OpenAI o1 编程
Cognition CEO 兼联合创始人 Scott Wu 解释了 OpenAI o1 如何以更接近人类的方式做出编程决策。
#模型发布
#模型发布
今日 0 条OpenAI NewsAI 评分3838 OpenAI NewsAI 评分3535 OpenAI o1 如何应对复杂经济学问题
经济学家 Tyler Cowen 解读 OpenAI o1 如何应对复杂经济学问题。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon Mamba：首个强性能无注意力 7B 模型
阿布扎比 TII 发布 Falcon Mamba 7B，采用纯 Mamba 架构并加入额外 RMS 归一化层以保证大规模训练稳定，模型以 TII Falcon Mamba 7B License 1.0 开放，可在 Hugging Face 生态中使用。
推荐理由：TII 发布首个纯 Mamba 架构的 7B 开源模型，读者可据此了解无注意力架构在长序列上的取舍。
Hugging Face Blog精选AI 评分6262 Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充 Gemma 模型系列，新增 2.6B 参数的 Gemma 2 2B（含 base 与指令微调版）、安全分类器 ShieldGemma 以及稀疏自编码器套件 Gemma Scope。
推荐理由：Gemma 2 新增 2B 小模型、安全分类器和可解释性工具，读者可据此判断端侧部署与安全过滤的可用选项。
Mistral AI精选AI 评分7878 Mistral AI 发布 Mistral Large 2，123B 参数支持 128k 上下文
Mistral AI 发布新一代 Mistral Large 2，拥有 128k 上下文窗口和 123B 参数，可在单节点上以较大吞吐运行，支持包括中文、日文、韩文在内的数十种语言和 80 多种编程语言。
推荐理由：官方给出 Mistral Large 2 的 128k 上下文、123B 参数与多项基准对比，可据此判断其单节点部署的成本位置。
Hugging Face Blog精选AI 评分8888 Llama 3.1 发布：405B、70B 与 8B，支持多语言和长上下文
Meta 发布 Llama 3.1，包含 8B、70B、405B 三个尺寸的 base 与 instruct 版本共六个开放权重模型，全部支持 128K token 上下文和 8 种语言，并新增 Llama Guard 3 与 Prompt Guard 两个安全模型。
推荐理由：Hugging Face 官方给出 Llama 3.1 三个尺寸的显存需求、量化方案与工具调用格式，便于评估部署成本。
OpenAI News精选AI 评分7878 OpenAI 发布 GPT-4o mini，主打低成本智能
OpenAI 发布 GPT-4o mini，定位为更具成本效率的智能模型。
Mistral AI精选AI 评分7777 Mistral 与 NVIDIA 联合发布 12B 模型 Mistral NeMo
Mistral AI 与 NVIDIA 合作发布 12B 模型 Mistral NeMo，支持最高 128k token 上下文窗口，预训练基座与指令微调 checkpoint 均以 Apache 2.0 许可开源。
推荐理由：Mistral 与 NVIDIA 合作的 12B 模型以 Apache 2.0 开源，128k 上下文和 FP8 推理对部署选型有直接参考。
Mistral AIAI 评分4242 Mistral AI 发布数学推理模型 Mathstral 7B
Mistral AI 发布专注 STEM 的数学推理模型 Mathstral 7B，基于 Mistral 7B，在 MATH 上得分 56.6%、MMLU 上得分 63.47%，在同规模模型中达到 SOTA。
Mistral AI精选AI 评分7171 Mistral 发布 Codestral Mamba 代码模型
Mistral AI 发布 Codestral Mamba，这是继 Mixtral 系列之后对 Mamba 架构的又一次探索，采用 Apache 2.0 许可，可自由使用、修改和分发。
推荐理由：Mistral 发布基于 Mamba 架构的代码模型，给出参数规模、256k 检索测试与多种部署方式，可据此判断非 Transformer 架构在代码场景的可用性。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolLM 系列小模型，含 135M、360M、1.7B 三个尺寸
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三个参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：原文公开了三个尺寸小模型的训练数据配比与评测对比，可据此判断端侧小模型的选型与数据策略。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma 2，含 9B 与 27B 两个版本
Google 发布开源大模型 Gemma 2，提供 9B 和 27B 两个规模，各有基础版与指令微调版，上下文长度 8K tokens，采用允许商用和再分发的宽松许可。
推荐理由：文章梳理了 Gemma 2 的滑动窗口注意力、软上限与蒸馏等训练改动，并给出与 Llama 3、Qwen 1.5 的基准对比。
Hugging Face Blog精选AI 评分7878 Diffusers 集成 Stable Diffusion 3 Medium，含显存与性能优化方案
Stability AI 的 Stable Diffusion 3 Medium（2B 参数）已在 Hugging Face Hub 发布并接入 Diffusers。
推荐理由：原文给出 SD3 Medium 的架构变化与 Diffusers 集成细节，读者可据此判断显存占用与推理速度的取舍。
Mistral AI精选AI 评分7878 Mistral 发布首款代码模型 Codestral，22B 开放权重、支持 80+ 编程语言
Mistral AI 发布首款代码模型 Codestral，这是一个 22B 开放权重生成式模型，训练数据覆盖 80+ 编程语言，上下文窗口 32k，可通过指令与补全 API 端点使用。
推荐理由：Mistral 首款代码模型给出 22B 开放权重、32k 上下文和 80+ 语言支持，可对照其与既有代码模型的定位差异。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon 2 11B 预训练语言模型与 VLM
TII 发布 Falcon 2 系列首批模型，包括 11B 基座语言模型和 11B 视觉语言模型（VLM），后者在 LLM 基础上接入 CLIP ViT-L/14 视觉编码器，支持图像问答。
推荐理由：官方给出 Falcon 2 11B 的架构、训练数据与多语言评测，可对照同尺寸开源模型判断其定位。
Hugging Face Blog精选AI 评分6262 Google 发布开源视觉语言模型 PaliGemma
Google 发布视觉语言模型家族 PaliGemma，由 SigLIP-So400m 图像编码器和 Gemma-2B 文本解码器组成，可输入图像和文本并输出文本。
推荐理由：原文给出 PaliGemma 的架构、三种 checkpoint 与微调流程，读者可据此判断它适合哪些视觉语言任务。
OpenAI News精选AI 评分8787 OpenAI 发布新旗舰模型 GPT-4o
OpenAI 宣布推出新旗舰模型 GPT-4 Omni（GPT-4o），可在音频、视觉和文本之间进行实时推理。
推荐理由：OpenAI 官方发布新旗舰模型，读者可据此了解其在音频、视觉与文本上的实时推理定位。
OpenAI News精选AI 评分8686 OpenAI 发布 GPT-4o，并在 ChatGPT 中免费开放更多能力
OpenAI 发布 GPT-4o，并在 ChatGPT 中免费开放更多能力。
推荐理由：OpenAI 发布 GPT-4o 并扩大 ChatGPT 免费能力，读者可据此了解模型与产品开放策略的同步变化。
OpenAI News精选AI 评分8888 OpenAI 发布 GPT-4o，并向 ChatGPT 免费用户开放更多工具
OpenAI 发布最新旗舰模型 GPT-4o，同时为 ChatGPT 免费用户开放更多能力。官方称这是其最新旗舰模型，免费用户将获得更多工具。
推荐理由：OpenAI 发布新旗舰模型 GPT-4o，并首次把更多能力开放给 ChatGPT 免费用户。
Hugging Face Blog精选AI 评分6262 StarCoder2-15B-Instruct 发布：全透明自对齐代码生成模型
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1，这是首个完全自对齐、全透明且许可宽松的代码 LLM，用 StarCoder2-15B 自生成指令-响应对微调自身，无需人工标注或 GPT-4 蒸馏数据。
推荐理由：StarCoder2-15B-Instruct 用自生成数据完成指令微调，读者可据此了解不依赖 GPT-4 蒸馏的代码模型训练路径。
Hugging Face Blog精选AI 评分8888 Meta 发布 Llama 3 开源大模型，Hugging Face 同步集成
Meta 发布 Llama 3 系列开源大模型，包含 8B 和 70B 两个尺寸的 base 与 instruct 版本，并同步发布基于 Llama 3 8B 微调的安全模型 Llama Guard 2，全部 5 个模型已上线 Hugging Face。
推荐理由：Meta 发布 Llama 3 并同步接入 Hugging Face 生态，读者可了解新分词器、GQA 与 15T token 训练带来的变化。
Mistral AI精选AI 评分7878 Mistral 发布开源模型 Mixtral 8x22B
Mistral 发布开源模型 Mixtral 8x22B，采用稀疏 MoE 架构，141B 总参数中仅 39B 激活参数，以 Apache 2.0 许可开放。该模型支持英语、法语、意大利语、德语和西班牙语，具备数学与编码能力，原生支持函数调用，上下文窗口为 64K tokens。
推荐理由：官方给出 Mixtral 8x22B 的激活参数、上下文窗口与多语言、数学编码基准，便于判断其成本效率定位。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Idefics2：8B 多模态视觉语言模型
Hugging Face 发布 Idefics2，一个 8B 参数、Apache 2.0 许可的通用多模态模型，可处理任意文本与图像序列并生成文本回复，支持图像问答、文档信息抽取和基础算术。
推荐理由：8B 参数、Apache 2.0 许可并同步开源指令微调数据集，读者可据此判断多模态微调的门槛变化。
OpenAI NewsAI 评分4242 OpenAI 在东京设立亚洲首个办公室，并发布日语优化 GPT-4 定制模型
OpenAI 宣布在亚洲开设首个办公室，落地日本东京，同时发布一款针对日语优化的 GPT-4 定制模型。
Hugging Face Blog精选AI 评分6060 Google 发布代码专用模型 CodeGemma，含 2B 与 7B 三个版本
Google 发布代码专用模型系列 CodeGemma，基于预训练的 2B 和 7B Gemma checkpoint，额外用 5000 亿 token 的英文、数学和代码数据训练，包含 2B base、7B base 和 7B instruct 三个版本，均保持 8K token 上下文。
推荐理由：Google 与 Hugging Face 联合发布三款代码专用 Gemma 模型，读者可据此了解其规格、基准表现与部署方式。
Hugging Face Blog精选AI 评分7878 BigCode 发布 StarCoder2 系列代码模型与 The Stack v2 数据集
BigCode 发布 StarCoder2，这是新一代透明训练的开放代码大语言模型，包含 3B、7B、15B 三个参数规模，分别由 ServiceNow、Hugging Face 和 NVIDIA 训练。
推荐理由：BigCode 公开了 StarCoder2 三个尺寸的模型、数据集与训练代码，读者可据此了解开源代码模型在参数规模与训练数据上的具体取舍。
Mistral AI精选AI 评分8080 Mistral AI 发布旗舰模型 Mistral Large 与 Mistral Small
Mistral AI 发布最新旗舰文本生成模型 Mistral Large，可通过 la Plateforme 使用，并首次通过 Azure 分发。官方称其在常用基准上表现强劲，是继 GPT-4 之后第二个可通过 API 获得的顶级模型，具备 32K token 上下文窗口、原生函数调用与 JSON 格式输出，原生支持英语、法语、西班牙语、德语和意大利语。
推荐理由：官方给出 Mistral Large 的基准对比、32K 上下文与函数调用能力，可据此判断其与 GPT-4 的定位差异。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma，Hugging Face 全面集成
Google 发布开源大模型家族 Gemma，包含 2B 和 7B 两种尺寸，各有基础版和指令微调版，上下文长度 8K tokens。Gemma-7B 在 LLM Leaderboard 上得分 63.75，性能接近 Mistral 7B；Hugging Face 提供了 Transformers、Google Cloud、Inference Endpoints 集成以及基于 TRL 的微调示例。
推荐理由：Google 发布 Gemma 开源模型家族，读者可了解其两种尺寸、性能位次及在 Hugging Face 生态中的部署与微调路径。
Hugging Face BlogAI 评分2222 IBM Research 与 Hugging Face 在 Transformers 库中发布 PatchTSMixer
IBM Research 与 Hugging Face 团队合作，在 Transformers 库中发布了轻量级时序建模模型 PatchTSMixer。该模型基于 MLP-Mixer 架构，支持跨 patch、通道和隐藏特征的轻量混合，可预训练后用于预测、分类和回归等下游任务。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 aMUSEd：高效非扩散文生图模型
Hugging Face 发布 aMUSEd，这是对 Google MUSE 的开源复现，采用 Masked Image Model（MIM）而非主流潜在扩散方法，以研究预览形式在宽松许可下开放。
推荐理由：Hugging Face 开源复现 Google MUSE 的非扩散文生图模型，读者可了解 MIM 路线在推理步数与体积上的取舍。
Mistral AI精选AI 评分8888 Mistral AI 发布开源稀疏 MoE 模型 Mixtral 8x7B
Mistral AI 发布 Mixtral 8x7B，一个采用 Apache 2.0 许可的稀疏混合专家（SMoE）开放权重模型，同时发布经监督微调和 DPO 优化的 Mixtral 8x7B Instruct。
推荐理由：官方给出稀疏 MoE 的参数量与推理成本结构，可据此判断开放权重模型在成本与性能间的取舍。
Hugging Face Blog精选AI 评分8282 Mixtral 8x7B 发布并集成进 Hugging Face 生态
Mistral 发布 Mixtral 8x7B，采用 MoE 架构，在多项基准上超过 Llama 2 70B 并追平 GPT-3.5，以 Apache 2.0 许可开放。
推荐理由：Hugging Face 官方给出 Mixtral 在自家生态的完整接入方式，包括推理、量化与单卡微调的具体路径。
OpenAI News精选AI 评分9292 OpenAI 在 DevDay 发布 GPT-4 Turbo 等新模型与开发者产品
OpenAI 在 DevDay 上发布 GPT-4 Turbo，支持 128K 上下文并下调价格，同时推出 Assistants API、GPT-4 Turbo with Vision 和 DALL·E 3 API 等开发者产品。
推荐理由：OpenAI 在 DevDay 一次性公布 GPT-4 Turbo、Assistants API 等多项更新，可据此了解其模型与开发者产品的整体走向。
Mistral AI精选AI 评分8282 Mistral AI 发布 7.3B 参数模型 Mistral 7B
Mistral AI 发布 7.3B 参数的 Mistral 7B，采用 Apache 2.0 许可，可无限制使用并支持本地部署。官方称该模型在所有基准上超过 Llama 2 13B，在多项基准上超过 Llama 1 34B，代码能力接近 CodeLlama 7B。
推荐理由：官方给出 Mistral 7B 与 Llama 2 系列的逐项对比和滑动窗口注意力设计，可据此判断小参数模型的性价比边界。
Mistral AI精选AI 评分7878 Mistral AI 发布首个模型 Mistral 7B，以 Apache 2.0 开源
Mistral AI 发布首个 7B 参数模型 Mistral 7B，称其在所有标准英文与代码基准上超过现有 13B 参数以下的开源模型，并以 Apache 2.0 许可发布、可无限制使用。
推荐理由：Mistral AI 官方阐述开源模型路线，并给出 Mistral 7B 在标准基准上超越同规模开源模型的具体结果。
Hugging Face Blog精选AI 评分6262 Würstchen 发布：面向图像生成的高效扩散模型
Würstchen 是一个文本条件扩散模型，其文本条件部分在高度压缩的潜空间中工作，通过 Stage A 的 VQGAN 与 Stage B 的 Diffusion Autoencoder 组成 Decoder，实现 42x 空间压缩，Stage C 作为 Prior 在该潜空间中训练。
推荐理由：原文给出 42x 空间压缩与训练算力对比，读者可据此判断高效扩散模型在成本上的取舍。
Hugging Face Blog精选AI 评分7878 TII 的 Falcon 180B 上线 Hugging Face
TII 发布 Falcon 180B 并上线 Hugging Face，参数规模 1800 亿，在 3.5 万亿 token 的 RefinedWeb 数据上预训练，是当时最大的公开可用语言模型。
推荐理由：Falcon 180B 以 1800 亿参数和 3.5 万亿 token 预训练规模进入开源生态，读者可据此了解当时开源模型与闭源模型的差距。
Hugging Face Blog精选AI 评分8282 Code Llama 发布：Llama 2 学会写代码
Meta 发布 Code Llama，基于 Llama 2 初始化并在 5000 亿 token 代码数据上训练，提供 7B、13B、34B 三种规格，另有 Python 专用版和指令微调版，采用与 Llama 2 相同的社区许可并允许商用。
推荐理由：梳理 Code Llama 三种规格与 Python 专用、指令微调变体的差异，并给出 Hugging Face 生态的接入方式与基准对比。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 IDEFICS：Flamingo 的开源复现视觉语言模型
Hugging Face 发布开源视觉语言模型 IDEFICS，基于 DeepMind 未公开的 Flamingo 复现，接受任意图像与文本序列输入并生成文本，提供 9B 和 80B 两个参数规模及对应的 instruct 版本。
推荐理由：Hugging Face 复现了未开源的 Flamingo，并公开训练数据、技术教训与红队评估过程，读者可据此了解开源多模态模型的复现路径。
Hugging Face Blog精选AI 评分8888 Meta 发布 Llama 2，Hugging Face 全面集成
Meta 发布开源大语言模型家族 Llama 2，包含 7B、13B、70B 三种规模的预训练与微调版本，采用宽松社区许可并允许商用。相比 Llama 1，预训练 token 增加 40%，上下文长度提升至 4k，70B 模型使用 grouped-query attention。
推荐理由：Meta 发布 Llama 2 并开放商用，Hugging Face 同步给出推理、部署与微调入口，可据此判断开源模型的可落地程度。