某醫院導入了一套智慧系統,由三個模組構成:語音辨識(ASR)→ 語言模型生成(LLM)→ 查詢醫療資料庫 API。近期發現部分查詢結果錯誤,例如醫師詢問「術後復健流程」時,系統卻誤判為要查詢「術前注意事項」,因此查詢到錯誤的文件。經檢查已排除語音辨識的錯誤,下列何者最可能是造成查詢錯誤的來源?
答案 (B)
核心概念
三段式管線出問題時,要用排除法定位在哪一段。題目已明講排除了 ASR,代表語音被正確轉成了「術後復健流程」這幾個字。那麼問題就落在中間的 LLM:它拿到正確的文字,卻把使用者的意圖判成了「術前注意事項」,這是語意理解/意圖分類出錯。而 LLM 的意圖判斷結果,直接受提示設計影響——提示若沒有明確界定任務、沒有列出可選的意圖類別、沒有要求嚴格對應,模型就容易在語意相近的選項間判錯。
答題技巧
快速判斷技巧:管線型題目先畫出流程圖,把題目已排除的環節劃掉,再看錯誤的「症狀長相」落在哪一段。本題症狀是「意圖被理解成別的東西」,明確落在 LLM 這一格。
易錯陷阱:(D) 很有說服力,因為醫療+專業術語聽起來就該微調。但「術前 / 術後」只差一個字且屬日常用語,不是專業術語問題。另外 (A) 也是合理的懷疑方向,這題實際上 (A)(B) 都有討論空間,官方答案取 (B)——判準在於誤判發生在「意圖產生階段」而非「意圖對應階段」。作答時建議先問:錯的是「想錯了」還是「對錯表」?