我用 Rust 重写 AI Gateway,速度提升 41 倍
作者用 Rust 重写 AI Gateway,性能提升 41 倍。原文未披露具体实现细节、基准测试方法与对比版本。
作者用 Rust 重写 AI Gateway,性能提升 41 倍。原文未披露具体实现细节、基准测试方法与对比版本。
Simon Willison 推荐 Jacob Sansbury 介绍 Spawn 的文章,Spawn 是一个多人游戏环境,玩家可用提示词让游戏内智能体 Savi 修改游戏世界。
AWS 博客介绍如何用 AI IDE Kiro 把 PHP 到 Java 的迁移做成可重复流程,核心是一套共享 Skill 文件驱动的八阶段流水线。流程要求先运行 discover-models.php 扫描器生成模型清单,再在写 Java 之前搭建 parity harness 作为验收裁判,后续阶段以修正规则库而非手改代码的方式迭代。
Sheetgraph 发布,可将 xlsx、xlsm、xls、xlsb、ods、csv 及 Google Sheets 提取为一份 REPORT.md 和公式依赖图,并保留每个单元格供智能体按需查询。
phpClaw 发布面向 PHP 的 AI 智能体运行时,内置 ReAct 循环、可插拔工具与记忆,核心零框架依赖,支持 Anthropic、OpenAI、Groq、Gemini、Mistral、DeepSeek、Ollama 共 7 家提供商自动识别。
Baseten 成为 Postman 面向企业团队推荐的推理合作伙伴,为 Postman Agent Stack 构建的智能体提供快速推理、多云弹性容量和后训练基础设施。
Anthropic 为 Claude Platform 上线 Usage and Cost Analytics API beta,通过 analytics-usage-cost-2026-08-24 beta header 提供 /v1/organizations/analytics/usage 和 /cost 端点。
亚马逊科学与 Booking.com 合作,将知识蒸馏与 Medusa 框架结合,把 70B 参数的 Llama-3.1 教师模型压缩为 1.1B 的 TinyLlama 学生模型,质量接近教师模型而成本不到三分之一、速度最高提升 20 倍。
MoEngage 借助 Amazon Bedrock AgentCore Gateway,把约 400 个 VPC 内私有 REST API 转成按权限分级的 Agent 工具,估计节省约六个月平台工程投入,新 API 接入从数天缩短到数小时。
AWS Batch 为 SageMaker Training 作业推出配额管理功能,管理员可按团队或项目划分 GPU 容量为配额份额,并通过 RESERVE、LEND、LEND_AND_BORROW 三种资源共享策略自动出借闲置算力。
MotherDuck 发布 Dive Apps,用户可通过智能体构建自定义数据应用,并运行在 MotherDuck 数据仓库上。Dive Apps 的可视化可触发无服务器 Python 运行时 Flights,把数据回写到源系统、发送邮件、发布 Slack 消息或重跑机器学习模型。官方称其可用于替代 SaaS 应用、自动化运营流程,并在自动化过程中保留人工审批环节。
Meta 公布 Catching JiTTests 已从研究原型进入生产基础设施,用 LLM 为每个代码 diff 生成可执行测试,在合入前暴露行为差异。系统采用 dodgy diff 与 intent-aware 两条测试生成流程,并用 LLM-as-Judge 集成与规则式 RubFake 过滤误报,再以 human-on-the-loop 方式减少人工逐条审查。
Luma 是一款 Linux 智能启动器,可模糊搜索应用与文件,并支持基于 CLIP 的语义照片搜索和 OCR 文字搜索。它通过 MCP server 和 CLI 向 AI 智能体开放同一索引,同一提示词下 Claude Code(Sonnet 5.5)用 Luma 耗时 11 秒,不用则需 1 分 26 秒。索引与模型默认全部留在本地,仅模型下载和汇率查询会联网。
前 Palantir 高管 Andy Alder 和 Arjun Mather 创办 Dream,获 a16z 领投的 1700 万美元种子轮融资,开发面向建筑行业的 AI 世界模型。
NVIDIA Nemotron 3.5 Super VL 已可在 AWS 上使用,这是一个 120B 参数的 MoE 多模态模型,每个 token 激活 12B 参数,支持最长 1M token 上下文和文本、图像、文档、视频输入。
NVIDIA 开发者借助 GPT-6 Astra 等前沿 AI 模型与 Omniverse 库,通过自然语言指令构建仿真应用。其中仓库仿真在 80 条传送带、40 个机械臂和 800 个箱子的规模下,以全高清分辨率维持 30 帧每秒,两分钟内完成 640 次成功装箱。SimReady Central Library 在 GTC Berlin 发布,提供超过 2,000 个仿真就绪的 USD 资产。
Oxide 给出在云计算机上运行自托管 AI 智能体的方案:把编排器跑在长期虚拟机里,按会话动态创建临时虚拟机执行 Claude Code 或 Amp 任务,结束后关机回收。文章强调智能体需要 CPU 执行工具调用,虚拟机比容器隔离更强但启动需数秒、体积达 GB 级。
Tenstorrent Galaxy 系统在 Blackhole 芯片上同时处理 prefill 与 decode,让运营方按负载变化在两者间调配容量,而不必在购买硬件时就固定分配。
Simantic 推出固件仿真层,让 AI 智能体无需硬件即可测试和验证固件。产品提供可通过单次 API 调用编程运行的虚拟开发板、基于仿真证据做判断的固件 AI 代码审查器,以及每次提交都对微控制器仿真版本验证固件的 CI/CD 流水线。团队此前在 Neuralink 和 Tesla 从事固件工程,用户已将其用于飞行控制器、电动汽车、机器人和卫星的裸机与 RTOS 开发。
AI 能帮工程师检索研究、生成并仿真设计方案,但设计能否安全落地、是否适配具体场景仍需专家判断,最终决策责任仍在人。工程师的角色正从执行每个技术步骤转向协调人、机器与专家知识,系统思维因此更关键。IEEE 可围绕临床 AI、韧性基础设施等跨领域问题建立社区,并为人类与机器协作制定实用标准。
mnestiq 发布面向 AI 智能体的防篡改飞行记录器,记录智能体读取、决策和执行的内容及其输入来源,并用哈希链和 Ed25519 签名的 Merkle 检查点保证记录不可悄悄修改。
FusionAuth 1.70 通过 Client ID Metadata Document(CIMD)注册和 RFC 8693 OAuth token exchange,为 AI 智能体建立可信客户端身份并签发降权委派 token。
vLLM 宣布在 Mistral Large 4 发布当天提供支持,该模型为 1 万亿参数、每 token 激活 49B 的 MoE 原生多模态模型,提供 FP8 与 NVFP4 两种 checkpoint。
推荐理由:原文给出 Mistral Large 4 在 vLLM 上的完整部署参数与多项优化前后对比数据,可作为长上下文推理配置的参考。
SpaceApp 发布自托管工作台,可在同一房间内并排运行 OpenCode、Codex、Claude Code、Gemini、Qwen、Kimi、Grok、DeepSeek 等 16 个 AI 编码 CLI,每个 CLI 使用用户自己的账号。
CaseCite 发布免费开源法律 AI 平台,覆盖带引用的法律检索、文档分析、合同审阅与红线修改、法律起草、引用核查和法官情报。该平台采用自托管方式,运行在用户自有基础设施上,支持自带 AI 模型和 API key,并以 Apache 2.0 许可证发布,用户只需承担自身基础设施和 AI 使用成本。
文章主张 AI 流水线本质是有向图,应把作业定义为带声明式输入输出的步骤集合,而非以模型调用为基本单元。作者将自家站点流水线拆成七步、每步一个批量请求,用 Go 代码管理依赖与重试,单步准确率从 60%-70% 提升到 95% 以上。图结构可在运行前看出哪些步骤可并行、关键路径耗时与 token 成本。
一位在 GitHub Copilot 工作的开发者总结了自己把日常开发任务交给 AI 智能体的经验,包括让智能体启动开发服务器并用 curl 跑通主要路径、在部署或切换功能开关前后轮询指标和日志、调用其他模型获取第二意见,以及每天 6 点定时梳理未读消息并做初步排查。作者表示自己仍亲自写消息和报告、做设计决策和审查代码,但越来越多重复性任务会先想到交给模型处理。
IBM 发布 Granite Switch 4.1.1 补丁版本,与 4.1 完全向后兼容、无需迁移,基础模型未改动,仅更新适配器即可部署。此次更新包括支持 10 种语言、自带标点与大小写的 Granite Speech ASR 模型,以及在 Jev Decision Index 测试集上表现提升的 granitelib-core Decision 适配器。
vibecheck 发布面向 AI 生成应用的上线前安全审计工具,通过 60+ 项零依赖扫描和 AI 智能体复核,输出 0-100 分与 NO-GO/FIX FIRST/GO 结论。
Project Baobab 是一个轻量级去中心化边缘计算编排器,可将 AI 任务分片到 Raspberry Pi 4/5 等低功耗离网节点并行执行,并通过 PayPal REST API v2 自动发放实时微支付奖励。项目基于 Python 3.10+ 与 concurrent.futures 实现任务分片,采用 OAuth 2.0 认证,可在笔记本、迷你主机或单板计算机上部署。
ElevenLabs 内部智能体每月为团队节省超 1,200 小时日常运营时间,每月回答 5,000 多个问题,并生成数十个客户定制 demo、上月创建 150 多张工单。
Deriv 以 MIT 协议开源自托管 AI 平台 Deriv One,整合共享技能目录、Slack 智能体、多窗格工作区、沙箱代码执行和无代码应用构建器,统一运行在自有身份目录与密钥库上。
AWF 发布开源 AI 工作流框架,由三个静态二进制组成:Go 编写的 AWF CLI 用 YAML 定义并运行工作流,支持 OpenAI、Claude、Gemini。
企业 AI 交付中,代码助手让团队产出的代码量超过可有效评审的量,PR 数量、改动行数等速度指标在 AI 辅助下已成弱信号。文章指出质量问题集中在集成边界:上游 API 认证差异、分页边界、部分失败与重试、超时与限流处理,以及把混乱的上游响应映射为稳定工具输出。稳定智能体系统需要确定性契约,包括显式重试与超时策略、稳定错误封装和可预测的降级行为。
一个追踪 AI 数据中心建设是否过热的公开数据页上线,汇总借贷成本、资本开支、GPU 价格与机房空置率四类先行与滞后指标,每个数字均链接公开来源且不做估算填补。
文章提出用 Context、Containment、Validation、Rollout、Accountability 五个控制平面来安全扩展智能体软件工程。作者建议按生产风险将 AI 生成改动分为低、中、高三档,认证授权、计费、权限模型、数据迁移等高风险区域需加强上下文供给与人工判断。高风险改动应通过特性开关、行为测试和回滚计划部署,并保留人类对关键决策的所有权。
Intel 发布 Robotics AI Suite,提供预验证组件、参考应用和硬件感知优化,可在 Intel CPU、GPU、NPU 上整合 AI 感知与确定性控制。
AssemblyAI 发布首个文本转语音模型 AssemblyAI-TTS-1,面向实时电话语音智能体,定价为每 100 万字符 15 美元,无年度合同且并发不限。
Infini-AI-Lab 发布开源框架 Hermit,在智能体模型与 harness 保持冻结的前提下训练外部 harness 适配器,v0.1.0 已于 2026 年 10 月 25 日发布,采用 Apache-2.0 许可。
Open Agent Primitives(OAP)发布一套用于在企业自有集群中安全运行 AI 智能体的平台,由平台在每次动作执行前完成授权检查,而非交给模型判断。