P2 · 辨識即可
MLOps
水平擴展與自動伸縮 (Horizontal Scaling and Auto Scaling)
是什麼
水平擴展(Horizontal Scaling)是增加更多機器或服務實例來分攤負載;自動伸縮(Auto Scaling)則依 CPU、請求量等指標自動增減實例數。相對的垂直擴展是升級單台機器的規格。
解決什麼問題
應付高流量與流量起伏,同時提高吞吐量與可用性,避免單台機器成為效能瓶頸或單點故障。
考場 Trigger
- 每秒請求量(RPS)很高
- 增加多個無狀態服務實例
- 依流量自動增減實例
- 單台升級仍撐不住
容易搞混
容器編排平台資料庫分片模型部署與效能
中級深度
能比較水平與垂直擴展,說明無狀態服務為何易水平擴展,並與資料庫分片的切資料區分。