P1 · 應會
治理 / 安全
SHAP 值 (SHapley Additive exPlanations, SHAP)
是什麼
SHAP 以賽局理論的 Shapley 值計算每個特徵對單筆預測的貢獻：基準值（base value）加上各特徵的 SHAP 值等於該筆模型輸出。正值推高、負值壓低輸出，絕對值代表影響大小。
解決什麼問題
為個別預測提供局部解釋（如每筆貸款被拒的理由），也可把各樣本的絕對值彙總成全域特徵重要性。
考場 Trigger
- 每筆被拒絕的申請都要給理由
- 單一樣本各特徵的貢獻值
- base value 加總等於預測值
容易搞混
LIME 局部解釋梯度加權類別激活映射排列特徵重要性
中級深度
能解讀單筆 SHAP 值的正負與大小，並知道單位是模型輸出空間（如 log-odds），不是機率百分比。