P1 · 應會
治理 / 安全
偏誤緩解的三個階段 (Pre-processing, In-processing and Post-processing Bias Mitigation)
是什麼
偏誤緩解依介入時點分三階段：前處理（Pre-processing）調整訓練資料，訓練中（In-processing）在目標函數加入公平性約束，後處理（Post-processing）調整模型輸出或決策門檻。
解決什麼問題
依資料、模型與法規限制選出可行的去偏時點，例如推論時不得使用敏感屬性，就無法做後處理。
考場 Trigger
- 推論時禁用敏感屬性
- 訓練損失加入公平性懲罰
- 重新加權或重採樣訓練資料
- 依群體調整門檻
容易搞混
資料去偏公平性指標樣本重新加權
中級深度
能把具體手法歸入三階段，並判斷後處理需在推論時取得敏感屬性，受限時改用前處理或訓練中去偏。