Hugging Face Blog·· 11 天前AI 评分58
VocabX 如何通过特化 SLM 词表将推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 预告即将发布的 VocabX 论文,提出按 token 成本而非频率特化小模型词表,在基于 Qwen3-4B 的葡萄牙语作文评分器上把平均响应从 350 个 token 降到 101 个,实测推理成本下降 77.0%,bench 分数从 0.703 升到 0.810。
来源:Hugging Face Blog · huggingface.co