跳到主要內容
2.3 生成式 AI 風險管理
115-2 科目 28

某金融機構部署一套對外服務的 AI 理財問答機器人。於滲透測試中,安全團隊發現攻擊者可透過精心設計的自然語言輸入,繞過系統限制並誘導 AI 洩漏內部評分規則。為有效降低此類提示詞注入攻擊(Prompt Injection)的整體風險,下列何者為最適當的防護策略?

請選擇一個答案

答案 D

核心概念

提示詞注入沒有單一的萬靈丹——自然語言的表達方式無窮無盡,任何單點防護都可能被繞過。正確的策略是縱深防禦(Defense in Depth):輸入端做驗證與過濾攔下可疑請求、輸出端監控行為避免敏感內容外流、系統提示本身加以保護避免被覆蓋或洩漏、再加上最小權限原則讓模型即使被誘導也拿不到不該碰的資料。多層互補才能有效降低整體風險。
答題技巧

快速判斷技巧:資安題看到「多層防禦」「縱深防禦」「整合多種機制」就選它。含有「僅」「只靠」「未搭配其他」這類自我限縮字眼的選項,是出題者在明示這個方案不完整。

易錯陷阱:(A)(C) 描述的都是真實有效的防護手段,單看都沒錯。破解點在那個「僅」字——資安沒有單點解,題目問「整體風險」就必須是組合拳。