某企業已部署一套預訓練大型語言模型作為內部知識問答系統,主要用於查詢人資、財務與法遵相關的內部規範。由於公司內規每月都會滾動更新,管理層要求系統在文件更新後必須能立即反映最新內容,不能等待模型重新訓練。技術團隊正在評估應採用檢索增強生成(RAG)還是微調(Fine-tuning)來因應此需求。請問下列哪一項評估最為正確?
答案 (B)
核心概念
微調是把知識寫進模型權重裡——知識要更新就得重新訓練,週期以天或週計,成本高且無法即時。RAG 則把知識放在外部知識庫,模型在回答時即時檢索——文件更新後只要同步索引,下一次查詢立刻就能取得最新內容,完全不用動模型。題目明講「每月滾動更新」且「不能等待重新訓練」,答案只有一個。
答題技巧
快速判斷技巧:一句口訣解決所有 RAG vs 微調的題目——「知識會變用 RAG,風格要定用微調」。題目出現「每天/每月更新」「立即反映」就是 RAG。
易錯陷阱:這是本系列考卷出現頻率最高的考點(114-4 科目 2 第 17 題、115-1 科目 2 第 37 題都考過)。要牢記微調的本質限制:它把知識固化在權重裡,任何更新都要付出重新訓練的代價。