AWS 发布 Amazon SageMaker AI 多轮强化学习实操指南
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AWS Lambda 转发调用托管在 Amazon Bedrock AgentCore 上的智能体,按整局结果给一个奖励,用 GRPO 更新 LoRA 适配器。
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,训练任务通过 AWS Lambda 转发调用托管在 Amazon Bedrock AgentCore 上的智能体,按整局结果给一个奖励,用 GRPO 更新 LoRA 适配器。
拜耳作物科学在 Amazon Bedrock AgentCore 上构建了智能体决策引擎 ADE,作为其 Connected Decision Engine 之上的多智能体自然语言接口,第一阶段约 80% 的用户问题无需工程师介入即可解决。
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 扩缩目标,实现单次部署完成端点配置与扩缩参数更新。
OpenAI 通过为 Habitat 引入可靠的多租户架构、全局缓存和 Azure Cosmos DB,将 ChatGPT 的读取速度提升 12 倍,以支撑超过 10 亿用户。这是该存储扩展系列的第二部分,重点介绍多租户与缓存设计。
U.S. Hunger 借助 Amazon Quick 让领导层直接探索组织数据,并通过 Quick Spaces 共享 KPI 定义与分析文档。Quick 每晚 2 点(美东时间)将 SQL Server 数据刷新至内存引擎 SPICE,目前组织内已有 17 名同事获得访问权限,覆盖高管、技术、Full Cart 项目、财务与合规等团队。
在单台 trn2.48xlarge 上,torchtitan 可通过 TorchNeuron 将 Trainium 注册为原生 PyTorch 设备,并以三种方式训练 Qwen3-4B-Instruct-2507:Transformers v5 后端、torchtitan 原生 Qwen3 实现,以及接入 NKI MoE kernel。
基于 Strands Agents 构建的 Adaptive Agentic Intelligence Framework(AAIF)用 llama3.2:1b 作为编排层,将常规任务交给 Ollama 本地 SLM 处理,复杂请求经 Amazon Bedrock 路由至云端前沿模型。
AWS 解决方案架构团队开源了生产级多智能体系统 Deep Insight,并梳理多智能体上线的 5 个核心挑战:用 Strands Agents SDK 的 Graph 与 Agents-as-Tools 模式控制执行流。
AWS 发布配置指南,介绍如何通过 AWS PrivateLink 的 VPC 端点与 Quick 的 VPC 连接,让 Amazon Quick 在不经过公网的情况下访问企业防火墙后的本地数据源。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖零售运营、兽医护理、人事入职和采购四大领域,支持四种语言、三个国家,无需自建 RAG 基础设施。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后用于处理 PHI。该平台的 chat agent 可同时读取临床笔记等非结构化内容和理赔、会员记录等结构化数据,并通过 Slack、Microsoft Outlook、Salesforce 等连接器执行多步任务。
在 Amazon SageMaker AI 上部署 Kokoro-82M 文本转语音模型,可让 AI 语音智能体每生成一句就立即流式合成,无需等完整回复结束再开始播报。
针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题,该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在实时端点上,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产环境。
Hugging Face 博客发布 TorchNeuron 性能剖析系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 系统分析推理性能。文中以 RMSNorm 为例对比三种实现,演示通过 key_averages() 表定位消耗 Neuron 设备时间的算子,并用 Neuron Explorer 追踪从框架调度到 NeuronCore 硬件执行的完整链路。
作者 Dan McAteer 介绍 Claude Mods,一种用 TypeScript 或 JavaScript 函数在 Claude Code 中响应提示词、工具调用和界面渲染事件的插件,可改写 CLI 与桌面端的执行和渲染流程。
Simon Willison 用 Claude Code 打造了 Command & Conquer 风格 RTS 游戏 Battle Drones,经 12 个大版本、321 次 coding agent 提交,支持手机与桌面浏览器。游戏含 9 种建筑、7 种地面载具、6 种空中载具、3 种步兵,以及随机地图生成器和 AI vs. AI 模式。其多人模式让两台邻近设备通过音频消息同步游戏状态。
三位拥有十余年 Java 经验的 Java Champion 分享了在生产与开源项目中使用 GitHub Copilot 的具体实践。
GitHub Copilot 应用中的会话可直接在 VS Code 中打开并继续,保留原有对话、代码改动和 worktree 工作上下文。VS Code 会加载该会话对应的 worktree 并在 Copilot 侧边栏显示原会话,用户可逐行审查 diff、手动编辑、在集成终端运行测试,最后提交并推送到该会话关联的 pull request。
GitHub 用微调的 ModernBERT 分类器替换原 LLM 流水线来识别通用密钥,用户接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本下降超 98%。新方案先用正则表达式广撒网生成候选,再由分类器结合文件路径、变量名和上下文判断是否为真实凭据,从而过滤占位符、测试样例和校验和等误报。该效率提升也让通用密钥检测扩展到推送保护阶段,在代码推送前即可返回结果。
GitHub Copilot 可通过四种方式定制项目上下文:`.github/copilot-instructions.md` 定义仓库级规范,`.github/instructions` 中的 applyTo 字段支持按路径生效。
GitHub 提出 AI 时代开发者应强化三项技能:学会指挥 AI 智能体而非仅使用它,不轻信 AI 的第一个答案,以及用 AI 节省的时间去解决更大的问题。GitHub Copilot 内置的 Rubber Duck agent 会用第二个模型审查计划、代码和测试,以捕捉首个模型遗漏的问题。随着 AI 承担更多实现工作,判断力、权衡取舍和解决正确问题的能力变得更加重要。
GitHub Copilot 应用中的 canvas 是一种可自定义界面,用户与智能体共享同一状态,可做成看板、问题分诊板、发布清单或仪表盘。用户只需在智能体会话中输入 /create-canvas 并用自然语言描述工作流、界面操作和智能体权限,智能体就会生成界面并打开在右侧面板,之后可继续让智能体增删列、筛选或接入未关闭的 pull request。
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 油藏模拟器代码迁移到 C++,该代码没有测试套件,也没有集中文档。团队先搭建数值对齐校验框架,再让智能体解析代码库并生成文档,最终采用由人类操作、编码、测试和审查智能体协同的模块化工作流。首个冲刺完成 30 万行中的 4 万行,Mistral 总结出三条经验:先建校验框架、先整理文档、结构化工作流加人工审核优于完全自主。