當輸入與輸出價格朝不同方向變化
一個混合標題可能掩蓋檢索型或生成型工作流是否真正受益。
- 決策影響
- 切換路由前，按真實工作負載重新計算。
- 編輯觀點
- 每百萬詞元價格只是背景，不是產品決策。應按成功產出所需工作流為費率加權。
- 證據狀態
- 示例編輯試點 · 生產來源需完成複核
決策簡報
每條簡報，都以一個行動結束。
這裡只收錄可能改變模型選擇、工作流成本、交付風險或產品定價的變化。每條簡報都關聯一個場景和一次確定性計算。
示例本地預覽，並非當前供應商資料長上下文擴大工作流，也擴大失敗面
更大上下文可能減少檢索步驟，也可能增加提交詞元和重試暴露。
- 決策影響
- 對比檢索、長上下文與混合路徑。
- 編輯觀點
- 不要孤立評估上下文長度。應計算呼叫數、實際提交上下文，以及答案複核失敗後的成本。
- 證據狀態
- 示例編輯試點 · 生產來源需完成複核
客服自動化案例應披露人工複核成本
供應商案例經常強調解決率，卻把升級處理和人工複核排除在標題之外。
- 決策影響
- 補充人工轉交與失敗任務假設。
- 編輯觀點
- 明確標註供應商提供的結果，只復算能夠解釋和驗證的經濟假設。
- 證據狀態
- 示例案例結構 · 未複製任何供應商主張
基準重新整理可能讓舊推薦失效
任務集、模型版本、推理預算與腳手架都會變化，舊排名不能靜默變成當前建議。
- 決策影響
- 在決策報告中固定證據版本。
- 編輯觀點
- 用基準縮小問題，再用自己的成功標準與運營成本驗證。
- 證據狀態
- 方法說明 · 外部數值仍為僅連結
重試可能抹掉低價模型的表面優勢
當失敗恢復導致更多嘗試或複核步驟時，低單次呼叫價格也可能更貴。
- 決策影響
- 比較每次成功任務成本，而非提交呼叫成本。
- 編輯觀點
- 可靠性屬於分母。在比較候選模型前，先定義什麼叫成功。
- 證據狀態
- 合成場景 · 確定性公式 2.0.0
免費額度是一項單位經濟決策
免費額度取決於成功任務成本、付費轉化、支付費用、固定成本和目標毛利。
- 決策影響
- 計算可持續的完整任務額度。
- 編輯觀點
- 不要把詞元預算直接變成產品承諾。應按客戶成果定價，並保留毛利緩衝。
- 證據狀態
- 合成場景 · 確定性公式 2.0.0