治理 / 安全
可解釋性 (Explainability)
是什麼
可解釋性指 AI 能讓人理解它為什麼做出某個判斷或建議,例如說明是哪些資料、數值或規則促成這個結果。
解決什麼問題
使用者看得到依據才敢採用結果;出事時也才能追查原因、釐清責任並提供申訴。
考場 Trigger
- 說明判斷依據
- 標示支持建議的數值或規範
- 黑箱、無法說明原因
容易搞混
初級深度
看到名稱能辨識其類型與主要用途即可。
中級深度
中級的要求與初級相同:要能在攸關生命的醫療診斷、需向被拒者說明每筆理由的授信監理等情境,判斷關鍵需求是可解釋性。