AWS 为 SageMaker AI 推出免管理 GPU 的模型定制训练会话
AWS 宣布 SageMaker AI 无服务器模型定制正式推出训练会话(training sessions),用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。
AWS 宣布 SageMaker AI 无服务器模型定制正式推出训练会话(training sessions),用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。
Amazon SageMaker AI 扩展无服务器模型定制,推出训练会话 API,把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,模型在 GPU 上保持加载,用户只需编写训练循环。
Google 发布 Agent Compute Engine,为每个 AI 智能体分配独立的隔离虚拟机,该服务已用于支撑 Gemini,并将在未来几个月开放预览。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后用于处理 PHI。该平台的 chat agent 可同时读取临床笔记等非结构化内容和理赔、会员记录等结构化数据,并通过 Slack、Microsoft Outlook、Salesforce 等连接器执行多步任务。
在 Amazon SageMaker AI 上部署 Kokoro-82M 文本转语音模型,可让 AI 语音智能体每生成一句就立即流式合成,无需等完整回复结束再开始播报。
Modal CEO Erik Bernhardsson 在访谈中解释,传统 GPU 容量合同按固定时长锁定固定卡数,而真实负载会随时段涨落,Modal 的做法是聚合数千客户需求再统一采购容量。
针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题,该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在实时端点上,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产环境。
NVIDIA 发布 AIOps 平台 Minerva,汇集基础设施与 AI 负载的遥测数据,用专用 AI 模型把数据转成可执行的洞察。平台通过动态知识图谱映射 GPU、SuperNIC、交换机、线缆及运行其上的任务,每小时分析数十亿数据点,可把大量告警聚合成带根因的单一事件。
推荐理由:原文交代了 Minerva 如何把基础设施与负载遥测关联成知识图谱,读者可据此判断 AI 工厂运维的监控方式会怎样变化。
Symantec 安全研究人员发现一个攻击性 AI 智能体,会劫持互联网上未防护的语言模型并自主发起攻击,被劫持模型的所有者承担算力账单。该智能体可无人干预运行最多 100,000 步,扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭据并在后台安装挖矿程序,Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。
推荐理由:Symantec 通过蜜罐截获完整攻击提示词,呈现了 LLMjacking 的五层越狱结构与自循环攻击流程。
Celonis 企业 AI 首席科学家 Devavrat Shah 提出“决策智能”,认为 AI 智能体必须理解每项任务在业务流程中的角色与约束,否则会遗漏关键限制、造成代价高昂的错误或浪费算力。他建议企业先接入现有流程与数据,构建上下文层让智能体在护栏内运行,并从具体业务决策的最难环节切入验证提速与价值。
WD 内部测量显示,一段 8 秒 AI 视频(用户拿到的是 3.97MB 的 720p 文件)在后端留下超过 500MB 关联数据,是输出文件体积的 130 倍。
Revolut 正基于 NVIDIA 加速计算以单一基础模型 PRAGMA 重建技术栈,在 Blackwell Ultra GPU 上以 cuDF 和 Dynamo-Triton 支撑生产环境,初期服务 8000 万客户并设计支持 3 倍扩展。
NVIDIA DSX AI Factory Platform 正被多家企业用于把电网、变电站与 AI 工厂作为一套系统统一规划、仿真和运行,以应对电力这一基础设施最大瓶颈——美国并网队列中已有超 200 吉瓦项目等待、逾 3000 亿美元设备积压。
NVIDIA 正以开放模型和物理智能推动欧洲零售从数字发现到实体运营的升级。Shopify 基于 NVIDIA Nemotron 3.5 Lightning 后训练的 GraphQL 子智能体在内部基准上准确率超过领先前沿模型,服务成本降低 90%、响应速度提升 7 倍。Otto Group 则在 NVIDIA Omniverse 上以仿真方式设计并优化其德国最大履约中心的仓储运营。
OpenAI 与 Google 达成合作,OpenAI 的 GPT 6 和 6.1 系列模型(Astra、Sol、Luna)将在未来几周上线 Google Cloud 的 Model Garden,并进入 Google 的智能体编码工具 Antigravity。
NVIDIA 发布预训练关系基础模型 Kumo Relational,可直接在企业数据库上做预测,无需任务特定训练、特征工程或表扁平化。
推荐理由:原文给出预训练关系基础模型在 41 个任务上的对比结果与开源入口,可据此判断免训练预测能否替代现有 XGBoost 流水线。
Dharma-AI 预告即将发布的 VocabX 论文,提出按 token 成本而非频率特化小模型词表,在基于 Qwen3-4B 的葡萄牙语作文评分器上把平均响应从 350 个 token 降到 101 个,实测推理成本下降 77.0%,bench 分数从 0.703 升到 0.810。
Hugging Face 博客发布 TorchNeuron 性能剖析系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 系统分析推理性能。文中以 RMSNorm 为例对比三种实现,演示通过 key_averages() 表定位消耗 Neuron 设备时间的算子,并用 Neuron Explorer 追踪从框架调度到 NeuronCore 硬件执行的完整链路。
Mistral 与 NVIDIA 宣布合作,将 Mistral Large 4 与 NVIDIA CUDA-X、Warp 及 Omniverse 结合,用于加速工程仿真并打通仿真、模型开发与设计之间的闭环工作流。
OpenAI 与 Google Cloud 宣布把 OpenAI 前沿模型和 Codex 工作流接入 Gemini 的 Model Garden,并通过 Google Cloud Marketplace 提供。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线产品,RTX Spark 面向 Windows PC 上的个人智能体,DGX Spark 面向 Linux 开发者,DGX Station 面向企业前沿负载。
推荐理由:原文集中列出 RTX Spark、DGX Spark 与 DGX Station 的本地 AI 硬件与软件更新,可据此判断本地智能体的部署形态。
Google Cloud 与 NVIDIA 宣布基于 NVIDIA Vera Rubin 的 A5X 实例将于下月正式可用,并计划扩展至欧洲,提供面向训练、推理和大规模强化学习的集成平台。
推荐理由:原文给出 A5X 实例的可用时间、规模规划与首批客户用例,可据此判断云端强化学习基础设施的落地节奏。
NVIDIA 在 GTC Berlin 发布 OpenShell 参考架构,基于 OpenShell 安全运行时软件,结合 Vera Rubin NVL72 推理、Vera CPU 承载智能体工具调用、BlueField-4 DPU 运行 Sentry 做芯片级管控,为智能体可访问和可执行的范围划定边界。
NVIDIA 面向工厂场景的 Factory Operations Blueprint(FOX)已在 GitHub 开放早期访问,开发者可构建常驻工厂管理智能体及视觉检测、根因分析等专用智能体。
NVIDIA cuDSS 现已正式可用,这一 CUDA-X 库将大型稀疏系统求解迁移到 GPU,帮助缩短仿真时间并提升吞吐。Applied Materials 在 Ginestra 中实现最高 10x 加速,Dassault Systèmes 的 Abaqus 报告 8-10x 加速,ZEISS SMT 用 COMSOL 完成 EUV 光刻等离子体仿真基准测试提速 4x。
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,与已有的 Confidential Containers、Confidential Virtual Machines 组成三种部署形态,让前沿模型构建方在第三方基础设施上运行敏感负载时保留对模型和数据的控制。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主旨演讲中宣布多项发布,包括以模块化容器交付 Vera Rubin AI 工厂的 DSX POD 参考设计,现场部署时间可从六个月缩短至 14 天。
推荐理由:黄仁勋在 GTC Berlin 的主旨演讲集中披露了 AI 工厂、智能体安全运行时与开源模型等多项发布,可据此了解 NVIDIA 在欧洲的布局方向。
DeepSeek 在 PyTorch Conf 首日开源生产推理栈 DeepInfer,官方工程报告称单集群日均处理 155T tokens、输入缓存命中率 96%、平均首 token 延迟 400ms、生成速度 230 tokens/s(编码场景 300 tokens/s),非高峰时段每加速器小时收入 38 美元。
推荐理由:原文把 DeepSeek 开源推理栈的生产数据、缓存机制与成本测算放在一起,并附上 vLLM 的对照复现结果,便于判断这套效率有多少可迁移。
Tenex 联合创始人 Alex Lieberman 与 CJ Hess 在 AIE New York 分享了公司如何把"按交付成果付费"的 AI 工程师激励模式扩展为完整工程组织,公司已增长至 75 人,客户覆盖财富 2000 强与中型企业。
Simon Willison 用 Claude Code 打造了 Command & Conquer 风格 RTS 游戏 Battle Drones,经 12 个大版本、321 次 coding agent 提交,支持手机与桌面浏览器。游戏含 9 种建筑、7 种地面载具、6 种空中载具、3 种步兵,以及随机地图生成器和 AI vs. AI 模式。其多人模式让两台邻近设备通过音频消息同步游戏状态。
SF Compute 正把 GPU 算力做成可交易市场,并亲自承担物理交割——从网络、内存到 InfiniBand fabric 都可编程控制。CEO Evan Conrad 表示,NVIDIA 因缺乏中立性无法自建这类交易所,而 SF Compute 通过匹配不同约束的订单,在技术快速迭代时仍能促成交易。双方还讨论了现货与远期定价、批处理与实时推理租约,以及指数价格可能偏离实际购算成本的问题。
企业 AI 正从零散的聊天机器人实验变成业务基础层,衡量成本的重点也从 token 或 GPU 小时价格转向"每个有用产出的有效成本"。企业可选择自建栈、按需消费或集成私有 AI 平台三条路径,HPE Private Cloud AI 通过调度、模型选择、GPU 分区和 KV-cache 管理等手段提升利用率。
Mistral 发布 Voxtral 3 语音模型家族,包含支持 50+ 语言的转录模型 Voxtral Small Transcribe 3、支持 35+ 语言和 50+ 方言的 TTS 模型 Voxtral Mini TTS 3,以及基于 LiveKit 的语音智能体 SDK。
推荐理由:原文给出语音模型与智能体 SDK 的完整能力、定价和部署方式,便于判断实时语音智能体的落地成本。
Hugging Face 宣布 TorchTPU 作为 PyTorch 原生 TPU 后端接入其生态,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 Optimum TPU。
推荐理由:原文给出安装命令与 Transformers、Diffusers 的接入方式,读者可据此判断 PyTorch 在 TPU 上的迁移成本。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序,在 15 个基准程序上平均比现有最快的同类 zkVM 快 10 到 39 倍,证明验证约需 12 毫秒。
Mistral 发布首个时间序列基础模型系列 Timestral,提供 5M、28M、123M、209M 四种规模,最大模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中排名第一,参数量仅为此前 SOTA 的三分之二。
推荐理由:Mistral 首次进入时间序列基础模型,209M 参数在三个公开基准上排名第一,并给出 CPU 推理延迟与微调路径。
GitHub 用微调的 ModernBERT 分类器替换原 LLM 流水线来识别通用密钥,用户接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本下降超 98%。新方案先用正则表达式广撒网生成候选,再由分类器结合文件路径、变量名和上下文判断是否为真实凭据,从而过滤占位符、测试样例和校验和等误报。该效率提升也让通用密钥检测扩展到推送保护阶段,在代码推送前即可返回结果。
GitHub 发布与 Microsoft Applied Sciences 共建的 ModernBERT 分类器,用代码上下文识别数据库密码等非结构化密钥,候选批次评估耗时低于 2 毫秒,可将可拦截的密钥数量提升一倍以上。
微软研究院开源 Agent Lightning v1.0,用约 3500 行代码实现 Harnessed Agentic RL,让部署时使用的智能体 harness 直接参与强化学习训练。
推荐理由:微软研究院开源了约 3500 行的智能体强化学习框架,并给出用 6000 条样本把 Qwen3.5-9B 在 SWE-bench Verified 上提升 14.6 个百分点的完整流程。