可靠性经济分析
比较路由、缓存与重试的成本影响
面向需要检验流量路由与可靠性控制如何改变单位成本的工程负责人。
在工作台中打开此预设决策
本页面帮助你做出什么决策
在预期工作量下，判断缓存收益能否覆盖重试成本与条件式模型执行的开销。
输入项
- 流量进入目标模型路由的概率
- 缓存命中率及受缓存影响的输入量
- 失败率与最大重试次数
- 以 USD 计价的合成或用户输入模型费率
输出结果
- 条件路由下的单次提交成本
- 计入重试后的单次成功任务成本
- 预期工作量下的典型用户成本
- 扣除可靠性开销后的模型利润率
示例演算
示例演算
某路由调用会在 72% 的任务中执行，缓存命中率为 42%，失败后的重试不超过两次。
- 单次成功任务成本
- $0.0168
- 典型用户月成本
- $2.0174
- 模型利润率
- 76.9%
假设
- 缓存会影响模型中的输入成本
- 各次尝试的失败彼此独立
- 执行概率由用户输入
本工具无法决定的事项
- 不评测延迟
- 不承诺缓存适用性
- 不推断供应商条款