P1 · 應會
治理 / 安全
梯度加權類別激活映射 (Gradient-weighted Class Activation Mapping, Grad-CAM)
是什麼
Grad-CAM 用目標類別對 CNN 最後卷積層特徵圖的梯度當權重，加權合成一張熱力圖，標示影像中哪些區域最影響該類別的預測，只需一次前向加一次反向傳播。
解決什麼問題
解釋 CNN 影像模型「看哪裡做判斷」，計算成本低，適合有即時性要求、不能大量擾動採樣的場合。
考場 Trigger
- CNN 影像判斷的關注區域熱力圖
- 卷積層特徵圖加梯度權重
- 解釋要在毫秒內完成
- 不能大量重複採樣
容易搞混
顯著性圖LIME 局部解釋SHAP 值
中級深度
能說出 Grad-CAM 只需一次前向與反向傳播，與需大量擾動採樣的 LIME、SHAP 比較成本。