P2 · 辨識即可
AI 導入
提示快取 (Prompt Caching)
是什麼
提示快取是 LLM 服務把重複出現的提示前綴（如系統指令、固定文件）的計算結果暫存，後續請求前綴相同時直接重用，降低輸入 token 費用與延遲。
解決什麼問題
適合每次請求都帶相同長前綴的 RAG、客服系統；固定內容放開頭、變動內容放後面才能命中。
考場 Trigger
- 每次請求重複相同系統提示
- 降低輸入 token 成本
- 前綴相同可重用
容易搞混
Token 使用成本上下文視窗API 計費
中級深度
能從 token 組成找出重複前綴用快取、冗長對話歷史用摘要壓縮，並知道前綴一變動就無法命中。