Baseten Blog·· 4 天前AI 评分55
Baseten 优化 Qwen3-ASR 1.7B 批式转写，单卡吞吐提升 7 倍
The fastest, lowest-cost batch transcription with Qwen3-ASR
AI 导读
Baseten 对开源模型 Qwen3-ASR 1.7B 的推理栈做了优化，在单张 RTX PRO 6000、64 并发下批式转写吞吐较原生 vLLM 提升 7 倍以上，5 分钟音频的实时倍率达到 2,645 倍。
来源：Baseten Blog · baseten.co