可靠性經濟分析
比較路由、快取與重試的成本影響
面向需要檢驗流量路由與可靠性控制如何改變單位成本的工程負責人。
在工作臺中開啟此預設決策
本頁面幫助你做出什麼決策
在預期工作量下，判斷快取收益能否覆蓋重試成本與條件式模型執行的開銷。
輸入項
- 流量進入目標模型路由的機率
- 快取命中率及受快取影響的輸入量
- 失敗率與最大重試次數
- 以 USD 計價的合成或使用者輸入模型費率
輸出結果
- 條件路由下的單次提交成本
- 計入重試後的單次成功任務成本
- 預期工作量下的典型使用者成本
- 扣除可靠性開銷後的模型利潤率
示例演算
示例演算
某路由呼叫會在 72% 的任務中執行，快取命中率為 42%，失敗後的重試不超過兩次。
- 單次成功任務成本
- $0.0168
- 典型使用者月成本
- $2.0174
- 模型利潤率
- 76.9%
假設
- 快取會影響模型中的輸入成本
- 各次嘗試的失敗彼此獨立
- 執行機率由使用者輸入
本工具無法決定的事項
- 不評測延遲
- 不承諾快取適用性
- 不推斷供應商條款