P1 · 應會
治理 / 安全
標籤偏差 (Label Bias)
是什麼
標籤偏差(Label Bias)指訓練資料的標籤本身帶有標註者主觀判斷或歷史決策中的偏見,例如過去招募紀錄對某性別評分偏低,模型會把這些偏見當成真實規律學進去。
解決什麼問題
幫助辨認偏見來源出在「答案」而非樣本分布,從而改用重新標註、多人標註或稽核標註流程來處理。
考場 Trigger
- 標註者主觀判斷
- 沿用歷史決策當標籤
- 標籤反映過去的歧視
- 多位標註者一致性低
容易搞混
取樣偏差演算法偏誤治理偏誤緩解的三個階段
中級深度
能分辨偏見來自標籤(答案錯)還是取樣(樣本不具代表性),並提出對應處理方式。