某企業建置文件型知識查詢系統，將大量長篇內部文件轉換為可供生成式 AI 使用的知識來源。在測試過程中，團隊發現若直接以整份文件進行檢索，模型回覆常包含無關內容，且引用段落不夠精準。團隊評估後，決定導入 Chunking 機制的主要目的為何？

Question

(A) 透過縮短輸入長度，加速模型推理流程
(B) 提升檢索結果的語意對齊程度，並降低長文件帶來的干擾
(C) 減少模型執行時的記憶體使用量，以提升系統穩定性
(D) 讓模型在生成回覆時具備更高的創意發揮空間

Accepted Answer

正確答案：(B) 提升檢索結果的語意對齊程度，並降低長文件帶來的干擾

在 RAG 系統中，整份長文件被壓成單一向量時，這個向量代表的是整份文件的「平均語意」，什麼主題都沾一點、什麼都不精準。切分（Chunking）把文件切成語意聚焦的小段落後，每個向量只代表一件事，檢索時就能準確命中真正相關的那一段，同時避免把大量無關文字塞進上下文干擾模型。