P2 · 辨識即可
機器學習
巢狀交叉驗證 (Nested Cross-Validation)
是什麼
巢狀交叉驗證有內外兩層迴圈:內層交叉驗證挑選超參數,外層用沒有參與挑選的資料摺,評估整個「調參加訓練」流程的效能。
解決什麼問題
避免用同一組驗證結果既挑超參數又報告效能而產生過度樂觀的偏差,適合資料少到無法另留獨立測試集時。
考場 Trigger
- 同一組 K-Fold 既調參又報告效能
- 效能估計過度樂觀
- 內層選參、外層評估
容易搞混
k-fold 交叉驗證超參數調校訓練集、驗證集與測試集
中級深度
能指出驗證摺參與超參數選擇後不能再當效能估計,並說出巢狀交叉驗證或獨立測試集兩種解法。