P1 · 應會
治理 / 安全
顯著性圖 (Saliency Map)
是什麼
顯著性圖告訴你模型看了哪裡，用來理解與複核；它不提升準確率，也不能量病灶大小。
解決什麼問題
這題考顯著性圖只呈現模型判斷時較依賴的影像區域，用來協助醫師理解與複核，不能提升準確率，也不能當作病灶邊界或面積的量測依據。
考場 Trigger
- 看到『Saliency Map、熱點、讓醫師理解模型依據』→ 視覺化解釋供複核
- 看到『降低誤判、量測病灶範圍』→ 錯
初級深度
掌握主要用途、考試線索與必要邊界即可。
中級深度
要能依限制選解釋方法：200 毫秒內、不可大量重複採樣、以像素區域呈現時選 Grad-CAM（一次前向加反向傳播），而非需大量採樣的 LIME、SHAP。