某公司部署結合 Fine-tuning 與檢索增強生成(RAG)的語言模型系統作為內部文件助理。系統需同時確保回覆語氣一致、能即時查詢每日新增文件、維持效能穩定,並避免頻繁重新訓練。在長期維護與效能平衡下,下列哪一種策略最合適?
答案 (D)
核心概念
微調與 RAG 各有各的守備範圍,這是本題的關鍵分工。微調擅長改變模型的「行為與風格」——語氣、格式、回答習慣,這些東西一旦訓練好就相對穩定,不需要常改。RAG 擅長提供「即時且會變動的知識」——每天新增的文件只要更新索引就好,完全不動模型。把兩者各司其職,就是最省成本又最穩定的架構。
答題技巧
快速判斷技巧:記住一句口訣——「微調管風格,RAG 管知識」。看到題目同時要求「語氣穩定」與「知識即時更新」,答案就是兩者分工的那一個。
易錯陷阱:(A)(C) 都在用微調處理「知識更新」,這是最常見的架構誤解。要建立直覺:資料天天變就別放進模型權重裡,放進去的東西改一次要付一次訓練成本。