P1 · 應會
治理 / 安全
對抗性測試 (Adversarial Testing)
是什麼
對抗性測試＝模擬攻擊者，刻意偽裝或擾動輸入，測模型會不會被騙；不同於漂移監控、公平性稽核與一般功能測試。
解決什麼問題
這題考從四種上線後的檢查中，認出「模擬攻擊者、刻意偽裝輸入」才是對抗性測試。
考場 Trigger
- 看到『模擬攻擊手法、刻意偽裝或微調特徵後送入、觀察是否仍判斷正確』→ 對抗性測試
容易搞混
資料漂移與概念漂移公平性指標
初級深度
掌握主要用途、考試線索與必要邊界即可。
中級深度
中級的要求與初級相同：需能把輸入過濾、對抗訓練、輸出規則檢查認作對抗性擾動的模型層防禦，與防火牆等網路層防護區分。