SHAP(SHapley Additive exPlanations)值常用於分析機器學習模型的輸出行為。下列何者最符合 SHAP 值所提供的資訊?
答案 (C)
核心概念
SHAP 源自合作賽局理論中的夏普利值(Shapley Value),概念是「一群人合作完成一件事,每個人各該分到多少功勞」。搬到機器學習上,就是把某一筆預測的輸出值,公平地拆解分配給每一個輸入特徵——這個特徵讓預測值往上推了多少、那個特徵又往下拉了多少,全部加起來剛好等於預測值與基準值的差距。這個「加總可還原」的特性就是名字裡 Additive 的由來。
答題技巧
快速判斷技巧:從名字拆解——Additive(可加總)+ exPlanations(解釋),意思就是「把預測值拆成各特徵的貢獻加總」。看到「貢獻分配」四個字就選它。
易錯陷阱:容易把 SHAP 與傳統的「特徵重要性(Feature Importance)」混為一談。差別在於:傳統特徵重要性給的是全域的平均影響力,SHAP 能給到「這一筆預測中,每個特徵各推了多少」的個案級解釋。