iCreatAI News
跳到正文
Baseten Blog·· 2 天前AI 评分57

Baseten 重构 delta 权重同步:GLM-5.3 同步从 36 秒降至 15 秒

The fastest delta weight syncs in the world

AI 导读

Baseten 重构 delta 权重同步路径,改为以 GPU 上的权重作为父副本,不再在 CPU 内存保留完整副本,使约 770 GB 的 GLM-5.3 checkpoint 同步从 36 秒降到 15 秒,请求暂停从 6 秒降到 0.8 秒。

来源:Baseten Blog · baseten.co