Metapi智能路由引擎深度解析:4级成本信号+概率加权,自动选最便宜的通道

发布时间:2026/9/27 7:58:09
Metapi智能路由引擎深度解析:4级成本信号+概率加权,自动选最便宜的通道 Metapi智能路由引擎深度解析4级成本信号概率加权自动选最便宜的通道【免费下载链接】metapi把你在各处注册的 New API / One API / OneHub / DoneHub / Veloera / AnyRouter / Sub2API 等站点 汇聚成 一个 API Key、一个入口自动发现模型、智能路由、成本最优项目地址: https://gitcode.com/cita-777/metapiMetapi 是一个把 New API、One API、Veloera、AnyRouter 等多个站点汇聚成一个 API Key、一个入口的开源 AI 网关。它的智能路由引擎通过 4 级成本信号识别每个通道的真实单价再用概率加权算法综合成本、余额、负载与健康度自动为每次请求挑选最便宜且最稳的通道全程无需手动干预。智能路由到底解决什么问题当你注册了多个 AI 站点同一个模型比如claude-opus-4-6在不同站点的价格、稳定性、限流策略都不同。手动挑选通道既不现实也做不到每次都最划算。Metapi 的做法是每个请求到达时路由引擎实时评估所有候选通道算出每个通道的选中概率然后按概率随机选出最优解。下面是控制台的整体视图可以看到账户余额、消耗趋势等路由决策依赖的数据4级成本信号Metapi如何知道每个通道多少钱成本是路由决策的第一权重而价格从哪来决定了判断准不准。Metapi 定义了 4 级成本信号按优先级依次回退逻辑位于 tokenRouter.ts 的resolveEffectiveUnitCost函数级别来源说明可信度① 实测成本observed用通道历史总消耗 ÷ 成功次数反推真实单价⭐ 最准② 配置成本configured你在账户里手动填写的单价准③ 目录参考价catalog系统从模型目录/价格库缓存的参考价见 modelPricingService.ts较准④ 默认回退单价fallback所有信号缺失时的兜底值可配置保底也就是说通道用得越多实测数据越充分成本判断就越精确——这是一个越用越聪明的闭环。另外还有一个保护机制当只能拿到默认回退单价说明上游价格未知时该通道的选中概率会被显式压低避免看不清价格的通道被高估参见 tokenRouter.ts。路由页面顶部就直观展示了这套优先级成本来源优先级为实测成本 → 账户配置成本 → 目录参考价 → 默认回退单价每个通道还标注了当前选中概率概率加权算法不是永远最便宜而是大概率最优如果只选最低价通道所有流量都会压在一个便宜但可能限流、不稳定的站点上。Metapi 的加权算法核心在 tokenRouter.ts 的calculateWeightedSelection把多个维度综合成一个价值分1️⃣ 价值分三要素默认权重可在设置中调整成本权重 0.4单价越低得分越高——这是成本最优的核心余额权重 0.3账户余额充足度避免把钱都烧在一个站上用量权重 0.3近期调用越少、剩余配额越多的通道更占优默认权重定义在 config.ts可在设置里自由调整偏省钱还是偏稳定由你决定。2️⃣ 再乘以四个健康/负载修正系数站点权重 × 下游倍率你可以在站点层面设置全局权重或按下游 API Key 单独倍率实现精细化分流运行时健康站点近期成功率的实时系数历史健康基于历史成功率与平均延迟的惩罚延迟越高、失败越多概率越低会话负载通道当前并发占用、排队等待情况见 proxyChannelCoordinator.ts快打满的通道会被主动让路3️⃣ 同站点通道的公平分摊如果一个站点在同一路线上有多个令牌/通道系统会把该站点的总贡献均摊到各通道防止一个站霸屏。最后所有通道的贡献值归一化为概率按概率加权随机选取——便宜、稳定、不拥挤的通道被选中的概率天然更高这就是自动选最便宜的通道背后的完整数学。3种路由策略按需切换每条路由可单独选择策略见 routeRoutingStrategy.tsweighted默认概率加权上述完整算法追求成本与稳定的动态平衡round_robin轮询各通道平均分配流量适合测试各站点表现stable_first稳定优先只看成功率选最稳的站点并在其内部轮转适合对可用性要求极高的场景在路由页面可以创建群组路由、调整优先级并为每条路由切换策略余额信号从哪来Session Cookie 自动同步价值分里的余额不是猜的。Metapi 支持两种凭据API Key 用于代理转发Session Cookie 则能查询余额、签到等全部功能见 docs/oauth.md。验证通过后余额会自动同步成为路由权重的一部分——余额快用完的站点概率自然下降如何验证路由效果看使用日志每次请求后使用日志会记录实际命中的站点、模型映射、耗时与预估费用。展开日志条目可以看到请求模型 → 实际模型的重定向细节以及计费过程方便你核对路由决策是否符合预期常见问题 FAQQ概率加权意味着最便宜的通道不一定被选中A是的。成本只占价值分的一部分默认 0.4一个价格更低但频繁失败、快限流的通道综合概率会低于稍贵但稳定的通道——这是刻意设计的成本最优 ≠ 无脑低价。Q实测成本多久能积累出来A通道每成功调用一次总消耗 ÷ 成功次数就会刷新。使用量越大实测单价越接近真实值4 级信号中实测的权重优势也越明显。Q我想强制某个下游 Key 只走便宜站点可以吗A可以。下游 API Key 支持按站点设置权重倍率见 downstreamPolicyTypes.ts倍率为 0 的站点即被排除在候选之外。相关文件与文档路由核心算法tokenRouter.ts成本信号解析tokenRouter.ts路由策略定义routeRoutingStrategy.ts默认路由权重config.ts部署与配置说明docs/configuration.md、docs/upstream-integration.md管理 API 文档docs/management-api.md【免费下载链接】metapi把你在各处注册的 New API / One API / OneHub / DoneHub / Veloera / AnyRouter / Sub2API 等站点 汇聚成 一个 API Key、一个入口自动发现模型、智能路由、成本最优项目地址: https://gitcode.com/cita-777/metapi创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考