P1 · 應會
機器學習
極限梯度提升 (eXtreme Gradient Boosting, XGBoost)
是什麼
XGBoost 是梯度提升決策樹（GBDT）的強化實作：依序加入決策樹修正前面的誤差，並在目標函數加入樹複雜度正則化（葉節點數與葉權重 L2），支援缺失值自動處理與特徵層級並行化。
解決什麼問題
表格型資料的分類與迴歸，想要高準確率又要控制過擬合時的常用選擇。
考場 Trigger
- 比 GBDT 多了正則化項
- 自動處理缺失值
- 表格資料的高準確率模型
容易搞混
決策樹與隨機森林L1 與 L2 正則化
中級深度
能說出 XGBoost 對 GBDT 的改進（正則化、缺失值、並行），並知道樹仍依序建立而非彼此平行。