跳到主要內容
2.2 如何善用生成式 AI 工具
115-2 科目 22

某保險公司導入具備延伸推理(Extended Thinking)功能的推理型語言模型,用於處理理賠申請的合規審查。審查團隊發現:簡單案件只需快速比對幾項條款,但複雜案件需要多層次的法規詮釋與過往案例比對。產品負責人希望系統能依案件複雜度自動調整模型的推理深度,以在品質與成本之間取得最佳平衡。此需求最核心涉及的系統設計概念是什麼?

請選擇一個答案

答案 C

核心概念

推理型模型在回答前會先產生一段「思考過程」,思考得越久、用掉的推理 Token 越多,處理複雜問題的品質通常越好,但成本也越高。因此這類模型通常提供「思考預算」的參數,讓開發者設定單次推理最多可以使用多少 Token 來思考。題目要的「依案件複雜度自動調整推理深度、平衡品質與成本」,本質上就是動態調配這個思考預算。
答題技巧

快速判斷技巧:看到「推理型模型」+「調整推理深度」+「平衡品質與成本」,答案就是思考預算(Thinking Budget/推理 Token 上限)。這是推理型模型特有的控制參數。

易錯陷阱:(A) 溫度參數是最常被拿來當萬用答案的選項。要記清楚它的職責——溫度只管「輸出多隨機」,不管「思考多久」,兩者是完全獨立的參數。