P0 · 必會
機器學習
超參數調校 (Hyperparameter Tuning)
是什麼
超參數調校（Hyperparameter Tuning）是為學習率、樹深、正則化強度等訓練前就要設定的超參數尋找最佳組合，常見方法有網格搜尋、隨機搜尋與貝氏最佳化，通常搭配交叉驗證評估。
解決什麼問題
在有限運算預算內找出驗證表現最好的超參數組合；超參數不能從資料直接學到，只能透過搜尋決定。
考場 Trigger
- Grid Search、Random Search
- 貝氏最佳化依過去結果選下一組
- 窮舉所有超參數組合
- 候選數相乘再乘折數
容易搞混
k-fold 交叉驗證自動化機器學習巢狀交叉驗證
中級深度
能算網格搜尋訓練次數（候選數乘積×折數），說明隨機搜尋在高維更有效率。