P2 · 辨識即可
治理 / 安全
模型無關解釋 (Model-agnostic Explanation)
是什麼
不需要看模型內部結構，只透過改變輸入、觀察輸出如何變化來解釋模型的方法，因此任何模型都能套用，例如 LIME、SHAP、排列特徵重要性。
解決什麼問題
讓深度學習等黑箱模型也能說明判斷依據，支援透明性與對主管機關、當事人的說明。
考場 Trigger
- 不論模型種類都能用
- 只看輸入與輸出的變化
- LIME／SHAP／排列重要性
容易搞混
LIME 局部解釋排列特徵重要性顯著性圖
初級深度
看到名稱能辨識其類型與主要用途即可。