在 Amazon EKS 与 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 模型加速智能体 AI
NVIDIA Nemotron 3.5 Super VL 已可在 AWS 上使用,这是一个 120B 参数的 MoE 多模态模型,每个 token 激活 12B 参数,支持最长 1M token 上下文和文本、图像、文档、视频输入。
NVIDIA Nemotron 3.5 Super VL 已可在 AWS 上使用,这是一个 120B 参数的 MoE 多模态模型,每个 token 激活 12B 参数,支持最长 1M token 上下文和文本、图像、文档、视频输入。
NVIDIA 开发者借助 GPT-6 Astra 等前沿 AI 模型与 Omniverse 库,通过自然语言指令构建仿真应用。其中仓库仿真在 80 条传送带、40 个机械臂和 800 个箱子的规模下,以全高清分辨率维持 30 帧每秒,两分钟内完成 640 次成功装箱。SimReady Central Library 在 GTC Berlin 发布,提供超过 2,000 个仿真就绪的 USD 资产。
vLLM 宣布在 Mistral Large 4 发布当天提供支持,该模型为 1 万亿参数、每 token 激活 49B 的 MoE 原生多模态模型,提供 FP8 与 NVFP4 两种 checkpoint。
推荐理由:原文给出 Mistral Large 4 在 vLLM 上的完整部署参数与多项优化前后对比数据,可作为长上下文推理配置的参考。
IBM 发布 Granite Switch 4.1.1 补丁版本,与 4.1 完全向后兼容、无需迁移,基础模型未改动,仅更新适配器即可部署。此次更新包括支持 10 种语言、自带标点与大小写的 Granite Speech ASR 模型,以及在 Jev Decision Index 测试集上表现提升的 granitelib-core Decision 适配器。
ElevenLabs 内部智能体每月为团队节省超 1,200 小时日常运营时间,每月回答 5,000 多个问题,并生成数十个客户定制 demo、上月创建 150 多张工单。
n8n 内部 AI 与自动化负责人 Romina da Costa 提出,集中式自动化团队清完积压后只是把瓶颈转移到下游,公司已有超过 12,000 条内部工作流,没有团队能独自构建和维护。她将团队目标从“多建自动化”改为“建设自动化文化”,并给出四条原则,首条是培养各团队的构建者而非只交付成品。
Amp 上线 macOS Satellites,智能体可在云端 Mac 上为 iOS 或 Mac 应用执行构建、运行和测试,服务器约 30 秒启动一台预装 Xcode 和模拟器的 Mac。
Sakana AI 发布面向企业的 Sakana API Platform 并开放早期访问申请,首批提供 Sakana Fugu 与 Sakana Fugu Ultra,Sakana Namazu 和 Sakana Fugu Max 将后续上线。
OpenRouter 宣布重构默认供应商路由算法,从主要按输入 token 价格排序改为综合实际价格、首 token 延迟、吞吐、错误率与输出质量的实时 Routing Cost。
推荐理由:OpenRouter 公开了路由算法从唯价格到综合成本的重构细节与一周 switchback 实验数据,可据此判断推理成本与延迟的取舍。
Procore 基于 Databricks 的 OpenSharing 构建 Procore Analytics 2.0,取代原先基于 SQL Server 和公共 API 抽取的第一代架构,刷新频率从每天最多三次的限制中解放。
对话式 AI 通过处理自然语言请求为银行客户提供 24/7 支持,无需增加运营成本即可解答常规问题、验证身份并处理支付纠纷。这类系统依靠严格的网络安全协议,并遵循 SOC 2 Type II、ISO 17001 和 PCI DSS 合规要求来保护金融数据。运营负责人可通过首次接触解决率和升级频率等指标衡量各类银行聊天机器人用例的表现。
Google 为 Google Play services 中的 LiteRT 端侧推理运行时推出升级,GPU 推理比旧版 GPU delegate 快约 1.4 倍,由 ML Drift 驱动并通过新的 CompiledModel API 提供。
Sierra 发布 Compliance Console,内置于 Horizon 平台,帮助企业在跨渠道、跨州和跨国的智能体外呼中遵守当地法规。该控制台支持配置信息披露、联系时间窗口(多数地区默认 8AM 至 9PM)、节假日排除、频率上限和退订管理,并在 Insights 仪表盘中展示外呼与外发消息的允许、延迟、拦截和待审核数量。
PyTorch 2.15 发布,重写版 NCCL 后端成为所有 nccl 进程组的默认,并提供 TORCH_DIST_USE_NCCL2=0 与 nccl-legacy 回滚路径,集合通信挂起时飞行记录器会落盘现场。
ElevenLabs 发布强制对齐模型 Cue,可将音频中每个字符定位到精确时间轴,覆盖 90 多种基准语言,并已用于 Scribe 语音转文字流程。在 29 种语言的基准测试中,Cue 在真实录音上的准确率高于团队测试的所有对齐工具;处理一小时音频约需半秒,而次快的 Qwen3-ForcedAligner 接近 2 秒。
AWS 博客介绍 QA Studio 新增的两项能力:以“应用”为单位组织测试并汇总健康指标,以及基于团队的用户权限管理。健康视图给出通过率、执行次数、失败数和 0–100 健康分,并对不稳定测试扣分;指标支持 7 天按小时、30 天按天查看,可按环境过滤。权限分 Admin、Team Lead、Editor、Executor、Viewer 五级,每个应用只归属一个团队。
AWS 发布 Ray Train DLC 镜像(train-ml-cuda-v1.1),内置 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 与 AWS OFI NCCL 插件,无需自行构建镜像。
AWS 发布基于 Amazon Bedrock AgentCore 的 Enterprise Agentic AI Platform Blueprint,以可部署的基础设施即代码形式补上所有权、账户边界、可观测性与成本治理等企业级契约。
Pydantic AI 团队用五个小型 CRUD 应用、八款模型和 5,276 次评分运行对比 code mode 与普通工具调用,长任务上成本降 58%、实际耗时降 51%、成功率提升 16 个百分点。
推荐理由:作者用 5,276 次自建基准测试对比 code mode 与普通工具调用,给出长任务下成本、耗时与正确率的具体变化。
Claude Enterprise 正式开放智能报告、应用内调研和团队共享预算三项功能。智能报告可分析团队对话样本、按工作流归类并给出支出与建议,应用内调研收集成员反馈,共享预算让团队共用一个月度额度并在 50%、75%、95%、100% 时邮件告警。
Baseten 对开源模型 Qwen3-ASR 1.7B 的推理栈做了优化,在单张 RTX PRO 6000、64 并发下批式转写吞吐较原生 vLLM 提升 7 倍以上,5 分钟音频的实时倍率达到 2,645 倍。
Databricks 提出语音智能体的"对话层 + 大脑"架构,由 LiveKit 承载通话、Deepgram 负责语音转文字与默认音色、ElevenLabs 提供表现力音色,Databricks 提供负责上下文、本体与治理的"大脑"。
Mastra 平台与 Studio 上线 Span Queries,支持按时间范围、span 类型、名称、状态、错误、耗时等条件过滤或分组单条 span,而非返回整条 trace。
Replit 公布其 Agent Habitat 的安全架构,通过组织级策略边界、企业连接器管理和凭证代理(credential broker)等机制,让 AI 智能体在可控范围内访问公司系统。
Claude API 返回 529 overloaded_error 表示 Anthropic 对该模型的容量暂时耗尽,与用户密钥、套餐和请求无关,通常几秒后重试即可通过。
Meta 发布下一代个性化广告检索系统 Meta Andromeda,单张 GH200 GPU 推理吞吐超过每秒 100 亿条广告,相比 2024 版提升 100 倍。新架构将 LLM 式 MoE 引入检索阶段,推理 FLOPs 比 2024 版检索模型少约 300 倍,性能接近排序阶段水平。自 2025 年以来,该系统已在 Facebook 带来 2.4% 的转化率提升。
GitHub 在 GitHub Copilot 中发布 Copilot Fusion,在 Anthropic 与 OpenAI 的多个模型之间做运行时调度,按任务优化性能、成本和延迟。
推荐理由:Artificial Analysis 用 Coding Agent Index 实测 Copilot Fusion,给出成本、token 用量与三项基准的分项对比。
Ai2 的开源模型 olmOCR 2 正被研究者用于历史与考古档案的转录:ArtificeOCR 让历史学家 Maurice Casey 在本地电脑上转录信件、报纸等照片,并接入 Tropy 实现关键词检索。TU Wien 团队则用 LoRA 在 57 条标注记录上微调 olmOCR 2,在 CENTURIA 基准的 450 条测试记录上把转录错误率从 15.58% 降至 1.11%。
NVIDIA 为 RTX Spark Windows 笔记本带来一批更新,包括开放权重的语音模型 Nemotron 3.5 Transcribe、NVIDIA App 中在前后台应用与后台 Agent 之间分配 GPU 资源的控制项,以及 LFM3 系列模型的 day-zero 支持。
用户不再需要加入工作区即可自托管 orbs,此前只有工作区管理员能管理自托管 orb provider。现在可在个人 Settings → Orbs 中添加 provider,设置方式与工作区 provider 相同;创建 thread 时会显示在 Self-Hosted 下并标记为 Personal。
Sarvam 与印度国防部总部综合国防参谋部(HQ IDS)签署谅解备忘录,为印度陆军、海军和空军建立统一的 AI 项目框架。三军及联合机构将共用同一套基础模型、智能体基础设施和地理空间与感知系统,项目由其国防安全部门 Chanakya 使用 Sarvam 105B 等模型执行。重点方向包括决策支持、目标获取和传感器到射手链路的数据融合,并保留人工对作战决策的监督。
ElevenLabs 发布指南,介绍如何用语音转文字、LLM 和文字转语音搭建实时 AI 语音助手管线,并建议将往返响应控制在 500 ms 以内、配合 VAD 保持自然对话。指南还要求接入内部知识库与业务工具,并在复杂或情绪化查询时转接人工坐席。开发者可通过 ElevenAPI 直接调用语音模型,或用 ElevenAgents 托管平台完成配置、测试与分析。
Playwright 脚本按 CSS 类名、DOM 位置、XPath 和生成 ID 定位元素,网站改版后即使页面外观不变也会失效。Playwright 建议改用 getByRole、getByLabel、getByText 等基于用户可见特征的定位器,并配合自动等待与 web-first 断言替代 waitForTimeout。
Browser Use 发布 2026 年云端浏览器自动化规模化指南:把任务放进队列,每个任务分配一个通过 CDP 驱动 Playwright 或 Puppeteer 的隔离远程浏览器,并发数按套餐上限封顶,任务结束即关闭浏览器。
Cloudflare 会拦截原生无头 Chrome,因为 navigator.webdriver 为 true、Playwright 无头 shell 的 UA 暴露 HeadlessChrome、云服务器 IP 信誉差且每次运行无 Cookie。
Together AI 详解其 GPU 集群自动修复系统,通过 VM 内与宿主机两侧的被动健康检查捕获 Xid 错误、ECC 双比特错误、PCIe 掉卡和 InfiniBand 链路抖动等故障,并按最轻修复动作给出建议。
NVIDIA CUDA 13.4 支持在 Kubernetes 中对 GPU 进行内存强制隔离的共享,让多个 AI 工作负载共用同一块 GPU 而不必各占整卡。NVIDIA GPU 已支持多种共享方式,其中 MIG 可将 GPU 拆分为对应用透明的硬件隔离实例。
Claude Code v2.1.312 为 Claude apps gateway 新增 oidc.user_id_claim,支持用 sub 之外的 id_token claim(如 Microsoft Entra ID 的 oid)识别用户。
Anthropic 基于与 Google Cloud 的近期网络研讨会,给出在 Google Cloud 上管理 Claude Code 支出的 control、track、prove 三个杠杆。
OpenAI Codex 发布 0.165.0 版本,新增内置 Google Cloud Vertex AI 提供商(配置 model_provider = "gcp"),并将 GPT-6.1 Terra 加入模型目录。