是什麼

Kubernetes 是容器編排（Container Orchestration）平台，負責管理大量容器化服務的部署、擴縮、負載平衡、故障自我修復與滾動更新，本身不訓練模型也不提供運算加速。

解決什麼問題

讓模型服務能以容器形式穩定上線，依流量自動擴展，並在節點故障時自動重啟或搬移服務。