跳到主要內容
1.1 AI 治理概念
115-1 科目 29

在深度學習模型的分析與驗證過程中,研究人員有時會利用「顯著性圖(Saliency Map)」來輔助理解模型行為。下列何者最符合此技術的主要用途?

請選擇一個答案

答案 B

核心概念

顯著性圖是影像類模型常用的視覺化解釋工具。做法是計算模型輸出對每個輸入像素的梯度——梯度大代表這個像素稍微改變就會顯著影響預測結果,也就是模型「有在看」的地方。把這些梯度值畫成熱力圖疊在原圖上,就能看出模型判斷這張圖時,注意力集中在哪個區域(例如判斷是狗時,有沒有真的在看狗,還是在看背景的草地)。
答題技巧

快速判斷技巧:XAI 方法先分「局部 vs 全域」。顯著性圖、LIME 都是局部(解釋這一筆);置換特徵重要性是全域(解釋整個模型)。看到「單一預測」就往局部方法找。

易錯陷阱:(A) 的「量化影響程度」聽起來很像顯著性圖在做的事(它確實會算出數值)。差別在於範圍——顯著性圖算的是「這一張圖的哪一塊」,不是「所有樣本的平均」。