EasyCLIProxyAPI用量分析深度指南:Token成本、缓存命中率与请求趋势尽在掌握

发布时间:2026/10/4 6:11:47
EasyCLIProxyAPI用量分析深度指南:Token成本、缓存命中率与请求趋势尽在掌握 EasyCLIProxyAPI用量分析深度指南Token成本、缓存命中率与请求趋势尽在掌握【免费下载链接】EasyCLIProxyAPIA desktop GUI for CLIProxyAPI and a tool for automatically configuring popular AI agents.项目地址: https://gitcode.com/gh_mirrors/easy/EasyCLIProxyAPIEasyCLIProxyAPI 是 CLIProxyAPI 的图形化桌面控制台而它的用量分析能力是帮你看清 AI 请求开销的核心请求总数、Token 成本、缓存命中率、TPS、请求趋势一应俱全全部数据本地采集、本地存储无需配置任何埋点。下面用 6 个部分带你看懂这张AI 用量仪表盘。用量记录页Token 成本一目了然 启动软件后进入使用记录页面顶部有五个标签页总览、分析、请求明细、价格统计、数据管理。页面会自动读取本地 SQLite 使用记录并在筛选条件变化时实时刷新。顶部筛选栏支持按时间范围最近 4 小时、24 小时、今天、7 天、30 天、全部时间、自定义、模型、提供商、来源、鉴权密钥、请求结果成功/失败/已取消组合过滤是定位哪段时间、哪个模型花得最多的最快方式。核心指标一次看全总览页把最重要的 7 个指标做成卡片请求总数附带成功 / 失败 / 取消的构成明细Token 总量细分输入、输出、思考、缓存读取、缓存创建成功率一眼判断上游 Provider 是否稳定平均延迟整体响应快慢TPS按总延迟加权生成附样本数与 RPM缓存命中率缓存读取 Token 占输入 Token 的比例预估成本基于模型价格表自动估算指标的口径定义在 usageMetrics.ts 中——例如缓存命中率 缓存读取 Token ÷ 输入 Token不超过 100%TPS 输出 Token ÷ 延迟秒数。缓存命中率与 TPS两个最容易被忽略的指标 缓存命中率是省钱的关键。Claude、Gemini 等模型对重复前缀如系统提示词、长上下文支持缓存读取缓存读取价通常只有输入价的 10% 左右。命中率越高说明你的提示词结构越利于复用实际成本越低。总览卡片下方会直接显示缓存读取 X · 输入 Y方便核对分子分母。TPS每秒输出 Token 数则反映真实生成速度。单条请求在明细列表中还会给出首字延迟TTFT和输出速度两列适合排查某个模型变卡了这类问题。请求趋势从 30 分钟到一年一张图看懂 总览页下方的Token 趋势堆叠柱形图支持悬停或方向键查看明细横轴粒度会随时间范围自动切换查看范围自动聚合粒度最近几小时30 分钟 / 小时数天3 小时 / 天数周以上周 / 月 / 年每个时间桶内按模型着色堆叠最多展示 6 个模型其余归入其他同时叠加请求成功/失败/取消的分布能直观看到高峰时段和主力模型。趋势的计算逻辑分桶、峰值、模型配色在 usageTrend.ts 中实现。旁边的Token 构成模块则按输入 / 输出 / 思考 / 缓存读取 / 缓存创建五部分拆解总消耗帮你判断成本结构是思考 Token 烧钱还是输入上下文太长深入分析模型、来源、密钥、时段四维拆解 分析标签页提供四张排行视图全部按 Token 量排序并给出占比模型使用哪个模型消耗最多请求来源哪些客户端如 Claude Code、Codex、OpenCode在调用鉴权密钥区分不同 API Key 的开销方便多人多项目分摊时段分布一天 24 小时的用量分布每一项都附带X 次 · Y% · Z Token的完整信息是定位异常消耗最直接的入口。请求明细标签页则是逐条请求的表格时间、模型、提供商、来源、密钥、结果、总耗时、首字延迟、输入/输出/思考/缓存 Token、缓存率、输出速度等列可自由勾选显隐支持拖动调整列宽、分页浏览。找到一条异常请求后可以直接看到它的失败状态码和响应摘要。价格统计预估成本是怎么算出来的 预估成本依赖价格表每个模型保存输入价、输出价、缓存读取价、缓存创建价单位均为 $/1M Token。价格统计页支持更新价格一键从远程源同步模型基础价格失败时自动回退到软件内置价格手动添加远程没有的模型可自定义价格留空项按 0 计费覆盖率提示明确告诉你已计价 X / Y 次请求未计价的请求不会虚增成本修改价格后总览页的预估成本会立即重新计算。数据管理与采集机制本地、可靠、可控制 ️数据管理标签页提供三个实用操作数据库大小限制设置上限MB后达到上限自动删除最旧记录一键瘦身把数据库压到目标大小同样从最旧记录开始删除修复历史异常记录修正错误的缓存信息、清理误记为 unknown 的记录执行前自动备份记录如何产生Rust 端的采集器usage.rs优先通过CPA 实时订阅接收请求事件并写入本地持久化 inbox订阅不可用时自动降级到 HTTP 轮询保证不漏记。界面左上角会实时显示采集状态等待内核 / 本地采集中 / 采集异常。旧版数据库会在启动时一次性迁移迁移前自动备份到usage-records/backups目录。写在最后EasyCLIProxyAPI 的用量分析把AI 花了多少钱、快不快、哪里最费拆成了指标卡片、趋势图、四维分析、逐条明细四个层次配合价格统计与数据管理形成闭环。建议养成两个习惯每周看一次趋势图把握成本节奏发现成本异常时直接用筛选 请求明细定位到具体模型和密钥——你的 Token 账单从此透明可控。更多界面细节可参考 UsageRecordsPage.tsx 与界面文案 zh-CN.ts。【免费下载链接】EasyCLIProxyAPIA desktop GUI for CLIProxyAPI and a tool for automatically configuring popular AI agents.项目地址: https://gitcode.com/gh_mirrors/easy/EasyCLIProxyAPI创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考