跳到正文
热点事件持续更新

OpenRouter 升级提供商路由器,以质量优先分配流量

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

OpenRouter 上线自成立以来对 provider 路由器的最大改进:新算法不再主要按价格排序,而是按请求实际成本下的推理质量分配流量。官方对比数据显示,新算法下 TTFT p50 从 1,007ms 降至 837ms、p95 从 4,601ms 降至 3,733ms,吞吐 p50 从 62.4 tok/s 升至 72.6 tok/s,整请求 p50 从 4.00s 降至 3.24s。 代价是成本上升:每千次请求从 $1.25 升至 $1.32,每百万 token 从 $0.301 升至 $0.324。失败重试比例从 10.4% 降至 6.9%,命中至少一次 429 的比例从 7.1% 降至 3.8%。上述数据均来自 OpenRouter 官方对比。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. OpenRouter (X)
    OpenRouter 上线新版 provider 路由算法

    OpenRouter 发布自成立以来对 provider 路由器的最大改进,新算法不再主要按价格排序,而是按请求实际成本下的推理质量分配流量,让请求保持低价的同时更快更可靠。官方对比数据显示,新算法下 TTFT p50 从 1,007ms 降至 837ms、p95 从 4,601ms 降至 3,733ms,吞吐 p50 从 62.4 tok/s 升至 72.6 tok/s,整请求 p50 从 4.00s 降至 3.24s;代价是每千次请求成本从 $1.25 升至 $1.32、每百万 token 从 $0.301 升至 $0.324。失败重试比例从 10.4% 降至 6.9%,命中至少一次 429 的比例从 7.1% 降至 3.8%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。