P1 · 應會
生成式 AI
模型路由 (Model Routing)
是什麼
模型路由=依請求特性分派模型:簡單問題給快速便宜的模型,複雜問題給推理強的模型,兼顧品質與成本。
解決什麼問題
這題考兼顧品質與成本的多模型架構,要靠模型路由依每個請求的特性,自動分派給快速便宜或推理較強的模型。
考場 Trigger
- 看到『多個模型能力與成本不同、系統自動判斷每次請求該給誰』→ 模型路由(Model Rou…
- 只看伺服器負載與流量 → 負載平衡
初級深度
掌握主要用途、考試線索與必要邊界即可。
生成式 AI
是什麼
模型路由=依請求特性分派模型:簡單問題給快速便宜的模型,複雜問題給推理強的模型,兼顧品質與成本。
解決什麼問題
這題考兼顧品質與成本的多模型架構,要靠模型路由依每個請求的特性,自動分派給快速便宜或推理較強的模型。
考場 Trigger
初級深度
掌握主要用途、考試線索與必要邊界即可。
Official Evidence