P2 · 辨識即可
MLOps
KL 散度 (Kullback-Leibler Divergence, KL)
是什麼
KL 散度（KL Divergence）衡量一個機率分布 P 與另一個分布 Q 的差異程度，分布完全相同時為 0，差異越大值越大；它不對稱，KL(P‖Q) 不等於 KL(Q‖P)。
解決什麼問題
比較訓練期與上線後的特徵分布以偵測資料漂移，也用於 VAE 損失、知識蒸餾等需要衡量分布差距的場合。
考場 Trigger
- 比較訓練與線上資料的分布差異
- 偵測輸入特徵漂移
- 兩個機率分布的距離
- VAE 損失中的分布正則項
容易搞混
母體穩定性指數資料漂移Autoencoder 與 VAE
中級深度
能說明 KL 散度為 0 代表分布相同、不具對稱性，並知道漂移偵測常與 PSI、KS 檢定並用。