Baseten 将 GLM-5.3 增量权重同步缩短至 15 秒
热点事件观察中
Baseten 将 GLM-5.3 增量权重同步缩短至 15 秒
1篇报道1个报道来源2 天前更新
先了解这件事
AI 综述
Baseten 重构了增量权重同步路径，改为以 GPU 上的权重作为父副本，不再在 CPU 内存保留完整副本。Baseten 称，约 770 GB 的 GLM-5.3 checkpoint 同步时间从 36 秒降至 15 秒，请求暂停从 6 秒降至 0.8 秒，吞吐提升最高可达 3.2 倍。 在另一项测试中，8.4 GB 的 Kimi K3 增量从发起同步请求到权重生效需 75 秒，暂停 4.1 秒。该方案运行在两台各配四块 GPU 的 GB300 节点上，解码器使用常驻低优先级原生线程，并预留 16 个核心用于服务。
AI 根据报道生成 · 2 天前更新
最新进展10月31日 03:16
Baseten 重构 delta 权重同步：GLM-5.3 同步从 36 秒降至 15 秒报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- Baseten BlogBaseten 重构 delta 权重同步：GLM-5.3 同步从 36 秒降至 15 秒
Baseten 重构 delta 权重同步路径，改为以 GPU 上的权重作为父副本，不再在 CPU 内存保留完整副本，使约 770 GB 的 GLM-5.3 checkpoint 同步从 36 秒降到 15 秒，请求暂停从 6 秒降到 0.8 秒。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1010月31日 05:00
- 近 24 小时变化
- -49%
02.557.510
12:0011月1日12:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。