治理 / 安全
人在迴圈中 (Human-in-the-loop, HITL)
是什麼
人在迴圈中(Human-in-the-loop)指 AI 的判斷必須經人類審核或確認後才生效,人是決策流程中不可略過的一環,而不只是事後旁觀。
解決什麼問題
在高風險或超出授權的決策上保留人類最終把關,避免 AI 自動決定直接損害當事人權益。
考場 Trigger
- 人員最終審核
- 超過核決權限→轉交有權限的人
- 對權益有重大影響
- 轉由真人處理
容易搞混
初級深度
看到名稱能辨識其類型與主要用途即可。
中級深度
中級的要求與初級相同:要能判斷人命攸關、最終責任須由人承擔的情境(如醫療影像輔助診斷)應採 HITL,由醫師做最終決策。