某人資部門使用 Dify 平台建立了一個 AI 面試輔助機器人,協助 HR 在面試過程中即時查詢應徵者的過往提問紀錄。然而測試時發現,機器人完全無法記住同一位應徵者在五分鐘前說過的話,每次回應都像是全新對話。以下哪個措施能從根本上解決此問題?
答案 (B)
核心概念
大型語言模型的 API 呼叫本質上是無狀態(Stateless)的——每一次請求都是獨立事件,模型不會自動記得上一次講了什麼。我們平常感受到的「對話記憶」,其實是應用端把先前的對話紀錄一併塞進這次的請求裡,模型才「看得到」前文。因此機器人失憶的根本原因,就是沒有把歷史對話帶進請求中。
答題技巧
快速判斷技巧:看到「AI 記不住前面說過的話」,答案永遠是「把對話歷史放進上下文一起送出」。這是所有對話系統記憶機制的基礎。
易錯陷阱:(D) 把「記憶」這個詞從 AI 語境誤解成電腦硬體的記憶體,是很典型的字面陷阱。要分清楚:模型的記憶=上下文視窗裡的內容,不是伺服器的 RAM。