P2 · 辨識即可
治理 / 安全
公平性指標 (Fairness Metrics)
是什麼
公平性指標用來量測模型對不同群體(如性別、地區、職業)的結果是否有不合理差異,例如比較各群體的核准率或錯誤率。
解決什麼問題
整體準確率高不代表公平;要靠指標找出對特定族群的差別待遇,包含經由相關特徵間接造成的偏誤。
考場 Trigger
- 比較各群體核准率/錯誤率
- 拿掉敏感欄位仍有差異
- 間接關聯特徵造成偏誤
容易搞混
偏見檢測與偏見緩解演算法偏誤治理資料去偏
初級深度
看到名稱能辨識其類型與主要用途即可。