P2 · 辨識即可
治理 / 安全
輸入驗證 (Input Validation)
是什麼
在使用者輸入送進模型或系統之前先檢查與過濾，例如限制長度與格式、偵測可疑指令或敏感內容，不合規的就拒絕或處理後再送。
解決什麼問題
在入口擋下 Prompt Injection 與有害輸入；但它只是多層防禦的一層，不能單獨依靠。
考場 Trigger
- 送進模型前先檢查過濾
- 偵測惡意或可疑指令
- 攔截有害輸入
容易搞混
輸出監控Prompt Injection 多層防禦AI Guardrails
初級深度
看到名稱能辨識其類型與主要用途即可。
中級深度
中級的要求與初級相同：中級只順帶出現，需知道輸入過濾是防對抗性擾動的模型層手段，與防火牆等網路層防護不同。