OpenRouter Announcements·· 4 天前精选AI 评分60
OpenRouter 重构供应商路由算法，TTFT 降低 16.9%
How we rebuilt provider routing for better, faster inference
AI 导读
OpenRouter 宣布重构默认供应商路由算法，从主要按输入 token 价格排序改为综合实际价格、首 token 延迟、吞吐、错误率与输出质量的实时 Routing Cost。
推荐理由
OpenRouter 公开了路由算法从唯价格到综合成本的重构细节与一周 switchback 实验数据，可据此判断推理成本与延迟的取舍。
来源：OpenRouter Announcements · openrouter.ai