跳到主要內容
2.3 生成式 AI 風險管理
114-4 科目 46反向題・即非 Guardrails 的目的

某智慧工廠導入生成式 AI,協助產線工程師即時產生維修指引與操作建議。下列哪一項並非團隊在系統設計中加入 Guardrails(防護機制)的主要目的?

請選擇一個答案

答案 D ※本題要選的是敘述有誤/不符合的那一個

核心概念

Guardrails(防護機制)是架在模型「輸入端」與「輸出端」的安全欄杆,職責是把關內容:輸入端攔截危險或不當的請求,輸出端過濾錯誤、違規或不安全的回答,確保系統行為落在可接受的範圍內。它不負責解釋模型內部怎麼想——那是可解釋 AI(XAI)與模型可觀測性的範疇。
答題技巧

快速判斷技巧:先圈「並非」。接著判斷每個選項是在「管內容」還是「看內部」——Guardrails 管的是進出的內容,凡是講解釋模型內部運作、追蹤推理過程的,都不屬於它。

易錯陷阱:(D) 聽起來很負責任、很符合 AI 治理精神,容易被誤認為是目的之一。要分清楚兩套機制:Guardrails 是欄杆(擋住不該過的),XAI 是窗戶(讓你看見裡面)。