是什麼

延遲測試（Latency Testing）量測模型服務從接收輸入到回傳預測結果所花的時間，通常看平均值與 P95、P99 等尾端延遲，確認是否符合服務水準要求。

解決什麼問題

確認模型上線後回應速度能滿足即時應用的時間要求，例如推薦要在 100 毫秒內回應。