某銀行使用 LIME(Local Interpretable Model-agnostic Explanations)來解釋其信貸審核模型的決策結果。分析師在閱讀解釋報告時,看到系統建立了一個簡化模型來近似原模型在該筆資料附近的行為。下列何者最能說明 LIME 中代理模型(Surrogate model)的意義?
答案 (D)
核心概念
LIME 的運作流程是——針對想解釋的那一筆資料,在它附近產生一批擾動樣本,把這些樣本丟進原本的黑箱模型取得預測結果,然後用一個簡單的可解釋模型(通常是加權線性迴歸)去擬合這些「輸入-輸出」對應關係。這個簡單模型就是代理模型,它只在目標實例的鄰近區域有效,用途是解釋而非取代原模型。名稱中的 Local(局部)講的就是這件事。
答題技巧
快速判斷技巧:LIME 的每個關鍵字都對應一個特性——Local(只解釋單一樣本附近)、Interpretable(用簡單模型)、Model-agnostic(不管原模型是什麼)。看到「全局」就刪,看到「近似目標實例附近」就選。
易錯陷阱:本考點在 114-4 科目 1 第 29 題、115-1 科目 1 第 26 題都出現過。要特別留意 (A) 的陷阱:代理模型確實常是線性模型(這半句對),但它是局部的不是全域的(這半句錯)。