用 ExecuTorch 在 Arm 边缘设备上优化流式语音识别
PyTorch 团队将多语言流式 ASR 模型 Nemotron 3.5 经 ExecuTorch 部署到 Google Pixel 11,并分析其端侧执行表现。
PyTorch 团队将多语言流式 ASR 模型 Nemotron 3.5 经 ExecuTorch 部署到 Google Pixel 11,并分析其端侧执行表现。
文章介绍如何用 AWS CDK 在托管 Amazon Bedrock Knowledge Base 上部署企业级智能体检索系统,通过 AgenticRetrieveStream API 实现多轮规划、工具驱动检索和带引用的答案生成。
在 Amazon Bedrock 上使用 OpenAI 模型时,提示词缓存可让智能体复用已处理的输入前缀,避免每一轮都重新计费全部上下文。缓存分隐式(由 Bedrock 自动选择可复用前缀终点)和显式(用 prompt_cache_breakpoint 标记终点)两种,可组合使用;可复用前缀需达到 1,024 tokens。
AWS 基于 SageMaker Python SDK v3 更新了边缘视觉质检的 MLOps 方案,用 SageMaker Neo 取代已弃用的 SageMaker Edge Manager 做边缘优化。
OpenAI Signals 数据覆盖近 100 个国家的 165 项工作活动,展示人们如何用 ChatGPT 处理工作以及使用方式随时间的变化。
Databricks AI Search 在 Delta 表之外新增原生支持 Streaming Tables、Materialized Views 和使用 Iceberg v3+ 的 Managed 表,可直接从这些数据源建索引并同步,无需再建中间 Delta 表和自定义同步管道。
Sierra 已在 Google Cloud Marketplace 上线,企业可用现有 Google Cloud 承诺额度采购并部署 AI 智能体,按智能体交付的结果而非消耗的 token 付费。
Meta 在 2026 OCP 全球峰会上公布多项支撑其 AI 模型与千兆瓦级 Prometheus 集群的网络创新,包括首款液冷网络机架 IcePack 与 102.4T 交换机 IceCube。
Fanatics 用 OpenAI 技术打造 Shop the Look 功能,帮助球迷搭配比赛日全套装备。在约 3 万件 MLB 商品上的测试显示,用户互动率提升 10%。
OpenAI 发文说明其如何加固前沿模型训练与评估环境的隔离措施,包括离线环境和面向高算力的红队测试。原文仅提供摘要,未披露具体技术细节。
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AWS Lambda 转发调用托管在 Amazon Bedrock AgentCore 上的智能体,按整局结果给一个奖励,用 GRPO 更新 LoRA 适配器。
Google Research 在 IDWeek 2026 上介绍了其结核病筛查 AI 从研究走向临床的路径:2019 年在 Radiology 发表基准,证明深度学习读胸片可达到放射科医生水平;2024 年在 NEJM AI 发表多中心前瞻性验证。
推荐理由:原文梳理了结核病筛查从算法验证、监管认证到六国落地的完整路径,可看到医疗 AI 从论文走向临床需要跨过哪些环节。
宾夕法尼亚大学与 Hugging Face 合作开发了 LitPivot,一个围绕提案中被编辑部分组织文献、给出带原文摘录的批评与修改建议的研究构思系统。在 17 名研究者的实验中,领域专家认为用 LitPivot 形成的想法比用文本编辑器加 AI 聊天工具的想法更扎实地建立在文献之上,参与者自评想法的新颖性与实用性提升也更明显。
拜耳作物科学在 Amazon Bedrock AgentCore 上构建了智能体决策引擎 ADE,作为其 Connected Decision Engine 之上的多智能体自然语言接口,第一阶段约 80% 的用户问题无需工程师介入即可解决。
Amazon Quick Sight 图层地图新增支持 GeoJSON 的 Point 和 LineString 两种几何类型,可在原有自定义形状图层基础上绘制门店等具体位置及配送路径、航班航线。GeoJSON 文件上限 100 MB,需与 Quick Sight 数据集通过共享 key 字段关联,每个图层一次只渲染一种几何类型。
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 扩缩目标,实现单次部署完成端点配置与扩缩参数更新。
OpenAI 通过为 Habitat 引入可靠的多租户架构、全局缓存和 Azure Cosmos DB,将 ChatGPT 的读取速度提升 12 倍,以支撑超过 10 亿用户。这是该存储扩展系列的第二部分,重点介绍多租户与缓存设计。
Hugging Face 推出 torch-neuronx 模型支持 Space,可查询 Hub 上热门模型能否在 AWS Trainium 上原样运行,并给出复现脚本。
U.S. Hunger 借助 Amazon Quick 让领导层直接探索组织数据,并通过 Quick Spaces 共享 KPI 定义与分析文档。Quick 每晚 2 点(美东时间)将 SQL Server 数据刷新至内存引擎 SPICE,目前组织内已有 17 名同事获得访问权限,覆盖高管、技术、Full Cart 项目、财务与合规等团队。
在单台 trn2.48xlarge 上,torchtitan 可通过 TorchNeuron 将 Trainium 注册为原生 PyTorch 设备,并以三种方式训练 Qwen3-4B-Instruct-2507:Transformers v5 后端、torchtitan 原生 Qwen3 实现,以及接入 NKI MoE kernel。
基于 Strands Agents 构建的 Adaptive Agentic Intelligence Framework(AAIF)用 llama3.2:1b 作为编排层,将常规任务交给 Ollama 本地 SLM 处理,复杂请求经 Amazon Bedrock 路由至云端前沿模型。
AWS 解决方案架构团队开源了生产级多智能体系统 Deep Insight,并梳理多智能体上线的 5 个核心挑战:用 Strands Agents SDK 的 Graph 与 Agents-as-Tools 模式控制执行流。
AWS 发布配置指南,介绍如何通过 AWS PrivateLink 的 VPC 端点与 Quick 的 VPC 连接,让 Amazon Quick 在不经过公网的情况下访问企业防火墙后的本地数据源。
NVIDIA 与欧洲多国政府及合作伙伴推进公共部门 AI 项目:欧盟委员会基于 deepset Haystack 扩展 AI@EC 平台,波兰用 DGX BasePOD 与 MONAI 构建医学影像平台,德国联合 secunet、Red Hat、deepset 开发主权云方案。
ChatGPT Ads 已扩展至 26 个新国家,超过 10 万名广告主使用过该平台。从本地商家到全球品牌,更多广告主现在可以在用户于 ChatGPT 中探索、比较和决定购买时触达他们。
Firebird 与哈萨克斯坦政府签署投资协议,获得 45,000 块 NVIDIA Grace Blackwell GPU 的美国出口许可,首期与 Kazakhtelecom 在 Data Center Valley 建设,目标 2027 年第三季度商用。
OpenAI 与波兰 NASK 建立合作,聚焦 AI 安全、保障与技术研究,以强化防护措施并支持更具韧性的数字生态。
Anima 利用 GPT-6 和 GPT-Live 将诊所电话等待时间缩短 75%,并扩展了护理团队可借助 OpenAI 模型完成的工作。团队因此有更多精力响应患者。
微软与 Hugging Face 开源 ThinkingBox-Training,把 ThinkingBox 对数据库终态的确定性校验直接当作 RL 奖励,用于训练 Agent。
推荐理由:微软与 Hugging Face 联合开源了把数据库终态校验转成 RL 奖励的训练栈,并给出 Qwen3.8-27B 的可复现配置。
OpenAI 发布 Decisions API,面向各类应用提供快速、聚焦且低成本的决策能力。原文未披露模型版本、参数规模、定价或上下文长度等具体信息。
Amazon Polly 生成式引擎完成升级,语音输出更自然准确且延迟更低,新增 14 种语音、覆盖 9 个 locale,Hindi 和 Finnish 首次在生成式引擎上正式可用。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖零售运营、兽医护理、人事入职和采购四大领域,支持四种语言、三个国家,无需自建 RAG 基础设施。
AWS 宣布 SageMaker AI 无服务器模型定制正式推出训练会话(training sessions),用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。
Amazon SageMaker AI 扩展无服务器模型定制,推出训练会话 API,把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,模型在 GPU 上保持加载,用户只需编写训练循环。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后用于处理 PHI。该平台的 chat agent 可同时读取临床笔记等非结构化内容和理赔、会员记录等结构化数据,并通过 Slack、Microsoft Outlook、Salesforce 等连接器执行多步任务。
在 Amazon SageMaker AI 上部署 Kokoro-82M 文本转语音模型,可让 AI 语音智能体每生成一句就立即流式合成,无需等完整回复结束再开始播报。
针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题,该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在实时端点上,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产环境。
Allen AI 发布 OlmoEarth v1.3 卫星嵌入模型,为全球每 10 米像素生成 128 维向量,前 64 维可单独使用。在覆盖六大洲 27 项评测中,128 维版本在 20 项得分最高,64 维版本在 18 项领先,对比对象为 AlphaEarth Foundations 和 Tessera v2。
微软研究院发布 Flint-interactive,一种在 Flint 之上创建交互式数据可视化的语言,让用户和智能体用高层语义事件与更新算子定义点击、筛选、缩放、高亮和跨图表联动等行为。