治理 / 安全
可解釋 AI (XAI)
是什麼
XAI 用於理解模型預測依據;LIME 解釋局部個案,SHAP 分配特徵貢獻,PDP 呈現特徵與預測的平均關係。
解決什麼問題
這題考如何把題幹線索與可解釋 AI(XAI)的定義、功能或適用情境正確配對。
考場 Trigger
- 單一個案局部解釋 → LIME
- 特徵貢獻值 → SHAP
- 平均依賴曲線 → PDP
初級深度
理解用途、典型情境與相近概念邊界即可,不需投入工程或研究層級細節。
你是從第 題進入此知識卡,原本的題序、答案與解析狀態都已保存。
治理 / 安全
是什麼
XAI 用於理解模型預測依據;LIME 解釋局部個案,SHAP 分配特徵貢獻,PDP 呈現特徵與預測的平均關係。
解決什麼問題
這題考如何把題幹線索與可解釋 AI(XAI)的定義、功能或適用情境正確配對。
考場 Trigger
初級深度
理解用途、典型情境與相近概念邊界即可,不需投入工程或研究層級細節。
Official Evidence
在「可解釋人工智慧(Explainable AI, XAI) 」領域中,LIME(Local Interpretable Model-agnostic Explanations)方法最核心的應用目的是什麼?
在醫療診斷決策支援系統等高風險領域中, 「可解釋人工智慧 (Explainable AI, XAI) 」的核心價值最主要呈現在哪個面向?
在可解釋 AI(Explainable AI, XAI) 的分類架構中,LIME(Local Interpretable Model-agnostic Explanations)屬於哪一類解釋技術?
SHAP(SHapley Additive exPlanations)值常用於分析機器學習模型的輸出行為。 下列何者最符合 SHAP 值所提供的資訊?
在金融業導入 AI 模型與可解釋性技術時,反事實解釋(Counterfactual Explanation)最符合下列哪一種應用?
在深度學習模型的分析與驗證過程中,研究人員有時會利用「顯著性圖(Saliency Map) 」來輔助理解模型行為。下列何者最符合此技術的主要用途?
某法律科技公司開發一套合約風險審查系統,可自動分析合約內容並標示潛在的高風險條款。律師在使用過程中,希望了解模型做出風險判斷的依據,因此系統導入顯著性圖(Saliency Map)作為可解釋 AI 的方法。請問在此自然語言處理(Natural Language Processing, NLP)應用情境中,顯著性圖主要用來標示什麼?
某製造業 AI 品質預測模型採用部分依賴圖(Partial Dependence Plots, PDP)分析特徵影響效果。資料科學家希望了解「溫度特徵」對良品率的整體影響趨勢,但主管進一步詢問,是否能用 PDP 判斷某一筆瑕疵產品批次資料中,溫度是否為主要原因。下列何者最能說明 PDP 在此情境中的限制?
某銀行使用 LIME(Local Interpretable Model-agnostic Explanations)來解釋其信貸審核模型的決策結果。分析師在閱讀解釋報告時,看到系統建立了一個簡化模型來近似原模型在該筆資料附近的行為。下列何者最能說明 LIME 中代理模型(Surrogate model)的意義?
某醫療 AI 系統使用深度學習模型分析胸腔 X 光影像,判斷患者是否罹患肺炎。 醫院評估委員會要求系統必須能夠標示「影像中哪些區域對本次診斷判斷影響最大」 ,以供放射科醫師進行審核確認。 下列哪一種可解釋 AI 技術最能直接滿足「標示影像中對預測結果影響最大的區域」此一需求?
某信用評分公司導入 SHAP(SHapley Additive exPlanations)框架分析機器學習模型的輸出行為。分析師希望了解: 「對於某位特定申請人被評為高風險的信用評分,各項輸入特徵分別對這個評分結果貢獻了多少」 。下列哪一項最能正確說明 SHAP Shapley 值在此情境中所提供的資訊?
某半導體製造廠導入 AI 視覺檢測模型,用於自動判斷晶圓表面是否存在瑕疵。隨著模型正式上線運作,品質管理部門希望了解模型在大量檢測影像中的整體判斷規律,例如哪些影像特徵通常對瑕疵判定結果影響較大,以及模型整體傾向依據哪些特徵進行分類。上述需求屬於可解釋人工智慧(Explainable AI, XAI)中的何種解釋方式?