P1 · 應會
機器學習
吉尼不純度 (Gini Impurity)
是什麼
吉尼不純度(Gini Impurity)衡量決策樹節點中類別的混雜程度,公式 G = 1 − Σpᵢ²,pᵢ 是各類別所占比例;只有單一類別時為 0,各類比例均等時最大(二元時為 0.5)。
解決什麼問題
作為決策樹(如 CART)選擇分裂特徵的準則:挑能讓子節點吉尼不純度下降最多的分裂方式。
考場 Trigger
- G = 1 − Σpᵢ²
- 節點純度、混雜程度
- 兩類各半時最大 0.5
- CART 分裂準則
容易搞混
資訊增益決策樹與隨機森林
中級深度
能用比例算出吉尼值、知道二元最大 0.5 與正規化後為 1,並分清 pᵢ 是比例不是樣本數。