某企業提供大型語言模型(LLM)API 服務,需支援高併發請求與流量波動,同時要求服務不中斷並具備故障容忍能力。若以高可用性與可擴展性為主要設計原則,下列哪一種部署方式較為適當?
答案 (B)
核心概念
高可用性(High Availability)與可擴展性(Scalability)的標準解法是「水平擴展+負載平衡」。部署多個服務實例,前面架負載平衡器把請求分散出去——流量變大時加開實例(可擴展),某個實例掛掉時流量自動導向其他實例(故障容忍、服務不中斷)。這是雲端服務架構的基本功。
答題技巧
快速判斷技巧:看到「高可用」「不中斷」「故障容忍」,答案必定包含「多實例/叢集/負載平衡/備援」這組字。看到「單一」「集中」就是反面教材。
易錯陷阱:(A) 用「提升資源使用效率」包裝,聽起來像是在做優化。但可用性設計的第一原則就是消除單點故障——效率再高,掛掉就是零。