跳到主要內容
2.2 如何善用生成式 AI 工具
115-2 科目 3

某人資部門使用 Dify 平台建立了一個 AI 面試輔助機器人,協助 HR 在面試過程中即時查詢應徵者的過往提問紀錄。然而測試時發現,機器人完全無法記住同一位應徵者在五分鐘前說過的話,每次回應都像是全新對話。以下哪個措施能從根本上解決此問題?

請選擇一個答案

答案 B

核心概念

大型語言模型的 API 呼叫本質上是無狀態(Stateless)的——每一次請求都是獨立事件,模型不會自動記得上一次講了什麼。我們平常感受到的「對話記憶」,其實是應用端把先前的對話紀錄一併塞進這次的請求裡,模型才「看得到」前文。因此機器人失憶的根本原因,就是沒有把歷史對話帶進請求中。
答題技巧

快速判斷技巧:看到「AI 記不住前面說過的話」,答案永遠是「把對話歷史放進上下文一起送出」。這是所有對話系統記憶機制的基礎。

易錯陷阱:(D) 把「記憶」這個詞從 AI 語境誤解成電腦硬體的記憶體,是很典型的字面陷阱。要分清楚:模型的記憶=上下文視窗裡的內容,不是伺服器的 RAM。