Baseten 发布决策模型 joey-1,单次决策成本约一美分
Baseten 旗下 Base Labs 发布决策模型 joey-1,直接输出标签和校准后的置信度分数,而非生成文本。joey-1 基于 Qwen3.5-2B 后训练,处理平均 2000 token 请求的 P50 端到端延迟为 20 ms,约为 elephant-1(49 ms)的 2.5 倍速度,价格为每百万 token 0.01 美元,是 mammoth-1 的十分之一。
Baseten 旗下 Base Labs 发布决策模型 joey-1,直接输出标签和校准后的置信度分数,而非生成文本。joey-1 基于 Qwen3.5-2B 后训练,处理平均 2000 token 请求的 P50 端到端延迟为 20 ms,约为 elephant-1(49 ms)的 2.5 倍速度,价格为每百万 token 0.01 美元,是 mammoth-1 的十分之一。
vLLM 宣布在 Mistral Large 4 发布当天提供支持,该模型为 1 万亿参数、每 token 激活 49B 的 MoE 原生多模态模型,提供 FP8 与 NVFP4 两种 checkpoint。
推荐理由:原文给出 Mistral Large 4 在 vLLM 上的完整部署参数与多项优化前后对比数据,可作为长上下文推理配置的参考。
Mistral AI 发布旗舰多模态模型 Mistral Large 4(Le Chonk)的开放权重,参数量达 1 万亿,在 FrontierCode 2.0 上以 19.7% 领先,Terminal-Bench 4.0 提升 13 个百分点至 41%。
推荐理由:原文给出开放权重、三档推理模式和多项编码与安全基准,可据此判断自托管部署的成本与能力边界。
AnySpeechRecognizer 与 AnyDecisionModel 两个 Swift 包发布,前者在 Apple 的 SpeechAnalyzer API 下可切换 Parakeet、Qwen3-ASR 等识别引擎并新增说话人分离,后者以概率而非生成文本的方式回答是非、多选和评分问题。
Databricks 提出语音智能体的"对话层 + 大脑"架构,由 LiveKit 承载通话、Deepgram 负责语音转文字与默认音色、ElevenLabs 提供表现力音色,Databricks 提供负责上下文、本体与治理的"大脑"。
Ai2 的开源模型 olmOCR 2 正被研究者用于历史与考古档案的转录:ArtificeOCR 让历史学家 Maurice Casey 在本地电脑上转录信件、报纸等照片,并接入 Tropy 实现关键词检索。TU Wien 团队则用 LoRA 在 57 条标注记录上微调 olmOCR 2,在 CENTURIA 基准的 450 条测试记录上把转录错误率从 15.58% 降至 1.11%。
NVIDIA 在 Hugging Face 和 ModelScope 上发布开放权重模型 Nemotron 3.5 Transcribe,把转写、说话人分离、翻译和音频问答合并到一个 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人标注,可处理最长 1 小时录音并标注最多 8 位说话人。
推荐理由:原文给出多语言转写与说话人分离的榜单成绩,并附可复用的数据管线和微调配方,便于判断落地成本。
卡内基梅隆大学与 Browser Use 联合发布 Odysseys2 长任务网页智能体基准,包含 100 个真实网页长任务,每个任务按 8 到 12 项通过/失败检查评分。
OpenAI Codex 发布 0.166.0-alpha.5 版本,由 fcoury-oai 于 10 月 28 日打上 rust-v0.166.0-alpha.5 标签。该版本以 alpha 预发布形式提供,附带 2 个资源文件。
OpenAI Codex 发布 rust-v0.166.0-alpha.4 预发布版本。该版本由 fcoury-oai 于 10 月 27 日打上标签,发布页面提供 2 个资源文件。
OpenAI Codex 发布 rust-v0.166.0-alpha.3 预发布版本,由 jif-oai 于 10 月 27 日打上标签。该版本以 rust-v0.166.0-alpha.3 为标签,附带 2 个资源文件。
Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,把文本、视觉、音频、omni 和决策模型统一到 2B 参数级的共享骨干上,全部开源权重并已在 Hugging Face 上线。
推荐理由:原文给出六个 2B 级模型的架构改动与基准对比,可据此判断端侧多模态专用模型的落地边界。
Ai2 发布研究 Old Ideas, Novel Problems,并公开基准、数据和代码,用于测试 LLM 新颖性判断器。研究基于 ICLR 2026 评审意见构建了 154 条高新颖性和 145 条低新颖性的人类想法池,另将 154 条人类想法与 LLM 生成想法配对。
Baseten 发布 BDN Sealed Volumes,把只读模型数据发布为带 digest 的不可变版本,可在任意部署中挂载。用户可通过 baseten volume push 或 sync 从本地目录、Hugging Face、S3、GCS 等来源发布,部署在 config.yaml 中按 digest 固定版本,回滚只需改回旧 digest。
AWS 基于 SageMaker Python SDK v3 更新了边缘视觉质检的 MLOps 方案,用 SageMaker Neo 取代已弃用的 SageMaker Edge Manager 做边缘优化。
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 扩缩目标,实现单次部署完成端点配置与扩缩参数更新。
AWS 解决方案架构团队开源了生产级多智能体系统 Deep Insight,并梳理多智能体上线的 5 个核心挑战:用 Strands Agents SDK 的 Graph 与 Agents-as-Tools 模式控制执行流。
Allen AI 发布 OlmoEarth v1.3 卫星嵌入模型,为全球每 10 米像素生成 128 维向量,前 64 维可单独使用。在覆盖六大洲 27 项评测中,128 维版本在 20 项得分最高,64 维版本在 18 项领先,对比对象为 AlphaEarth Foundations 和 Tessera v2。
IBM 为 Granite 时序模型推出 Timeseries Ensemble,将 PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1 和 TTM-r3 四个架构组合为统一预测接口,无需重训或拟合集成权重即可输出中位数与分位数预测。
NVIDIA 在欧洲推出 Earth-2 开放模型家族的最新成员 StormScope EU,基于 EUMETSAT 卫星观测,以 10 分钟间隔预测 16 个 Meteosat 通道的云况演变。
IBM 更新 Granite Speech 系列,新增 granite-speech-5.0-2b,并修订 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。
NVIDIA 扩展开源模型家族,覆盖语言、机器人、生物与量子计算,包括 Nemotron 3.5 Super VL、Nemotron 3.5 Bolt、Nemotron Retriever、Kumo、Cosmos 3.5、Alpamayo 2 Edge、BioNeMo 与 Ising。
推荐理由:原文一次性列出语言、机器人、生物、量子多条开源模型线的能力与开放渠道,便于比较各行业可定制的模型选择。
Hugging Face 宣布 TorchTPU 作为 PyTorch 原生 TPU 后端接入其生态,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 Optimum TPU。
推荐理由:原文给出安装命令与 Transformers、Diffusers 的接入方式,读者可据此判断 PyTorch 在 TPU 上的迁移成本。
Mistral 发布首个时间序列基础模型系列 Timestral,提供 5M、28M、123M、209M 四种规模,最大模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中排名第一,参数量仅为此前 SOTA 的三分之二。
推荐理由:Mistral 首次进入时间序列基础模型,209M 参数在三个公开基准上排名第一,并给出 CPU 推理延迟与微调路径。
微软研究院开源 Agent Lightning v1.0,用约 3500 行代码实现 Harnessed Agentic RL,让部署时使用的智能体 harness 直接参与强化学习训练。
推荐理由:微软研究院开源了约 3500 行的智能体强化学习框架,并给出用 6000 条样本把 Qwen3.5-9B 在 SWE-bench Verified 上提升 14.6 个百分点的完整流程。
Berkeley Sky Lab 与 IBM Research 将 K-Search 内核搜索框架扩展到 MLX 后端,通过结构化的 CUDA-to-MLX 翻译层把已有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译成 MLX 优化策略,以及翻译层对性能提升的具体贡献。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,可在特征、数据与模型组件归因中大规模识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层次结构,以约 10 倍更少的消融达到与 SPEX 相当的性能。
加州大学伯克利分校团队提出一种基于互信息的成像系统评估与优化框架,仅用带噪测量和噪声模型即可量化系统信息含量,无需任务专用解码器。该方法在彩色摄影、射电天文、无透镜成像和显微镜四个领域验证,信息估计能预测解码器性能,优化后的设计达到SOTA端到端方法水平,且内存和算力需求更低。相关论文发表于NeurIPS 2025。