P2 · 辨識即可
AI 基礎
模型複雜度控制
是什麼
透過限制參數量、樹深度或特徵數,或加入正則化、Dropout、提早停止等方式,避免模型複雜到連訓練資料的雜訊都記下來。
解決什麼問題
在欠擬合與過擬合之間取得平衡,讓模型對新資料有較好的泛化表現。
考場 Trigger
- 降低過擬合
- 正則化/懲罰過大權重
- 簡化模型、減少參數
容易搞混
L1 與 L2 正則化過擬合與泛化模型壓縮與效能優化
初級深度
看到名稱能辨識其類型與主要用途即可。
中級深度
要能逐一判斷手段是否在壓低有效容量:L1/L2 正則化(權重衰減)、Dropout、早期停止屬之;擴增特徵或加深網路則是提高容量,會加重過擬合。