AI 導入
Token 使用成本 (Token Cost)
是什麼
呼叫 LLM API 時依 Token 用量產生的持續性費用,約等於「每次 Token 數 ÷ 1,000 × 單價 × 使用次數」,用得越多費用越高。
解決什麼問題
評估 AI 導入的 ROI 時,必須從省下的人工成本扣除這筆持續費用,不能只看一次性投入。
考場 Trigger
- 每則訊息需幾千 Tokens
- 每月 API 費用
- 扣除後算每月淨節省
容易搞混
初級深度
看到名稱能辨識其類型與主要用途即可。
中級深度
要能拆解輸入 token 組成找出最大成本來源(如每次重送完整對話歷史),並用提示快取(Prompt Caching)與對話摘要壓縮,在不降品質下降低成本。