P1 · 應會
治理 / 安全
資料投毒 (Data Poisoning)
是什麼
回饋資料要先驗證、過濾再進入訓練；未把關會讓有問題的資料污染模型，形成資料投毒。
解決什麼問題
這題考使用者回饋資料未經驗證就拿去優化模型，會讓有問題的資料污染模型，學到有漏洞的寫法。
考場 Trigger
- 看到『蒐集使用者資料持續訓練、模型開始產生有問題的輸出、問題資料混入訓練』→ 缺少訓練資料…
初級深度
掌握主要用途、考試線索與必要邊界即可。
Official Evidence
官方題目正在怎麼考
1 官方題2 考綱節點