Baseten优化Qwen3-ASR批式转写，单卡吞吐提升7倍
热点事件历史事件
Baseten优化Qwen3-ASR批式转写，单卡吞吐提升7倍
1篇报道1个报道来源4 天前更新
先了解这件事
AI 综述
Baseten 对开源语音识别模型 Qwen3-ASR 1.7B 的推理栈做了优化，在单张 RTX PRO 6000、64 并发下，批式转写吞吐较原生 vLLM 提升 7 倍以上，5 分钟音频的实时倍率达到 2,645 倍。Baseten 称，这一部署实现了所有转写服务商中最低的每分钟音频成本。 优化后的部署是 Baseten 模型库中的默认版本，可一键部署，并通过兼容 OpenAI 的转写客户端调用，也可搭配 Nemotron 3 Diarization 生成带说话人标注的转写。需要实时转写的用户可改用同一模型的流式预设；更大批量或定制优化需联系 Baseten 工程师。
AI 根据报道生成 · 4 天前更新
最新进展10月29日 01:39
Baseten 优化 Qwen3-ASR 1.7B 批式转写，单卡吞吐提升 7 倍报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- Baseten BlogBaseten 优化 Qwen3-ASR 1.7B 批式转写，单卡吞吐提升 7 倍
Baseten 对开源模型 Qwen3-ASR 1.7B 的推理栈做了优化，在单张 RTX PRO 6000、64 并发下批式转写吞吐较原生 vLLM 提升 7 倍以上，5 分钟音频的实时倍率达到 2,645 倍。