iP
← 返回知識庫刷題首頁
P0 · 必會

機器學習

模型壓縮與效能優化

是什麼

知識蒸餾讓小模型學習大模型行為；剪枝移除低重要度連結；量化降低參數精度，以換取較低成本與延遲。

解決什麼問題

這題考如何把題幹線索與模型壓縮與效能優化的定義、功能或適用情境正確配對。

考場 Trigger

  • Teacher → Student → Distillation
  • 移除權重 → Pruning
  • 降低位元精度 → Quantization

初級深度

理解用途、典型情境與相近概念邊界即可，不需投入工程或研究層級細節。

Official Evidence

官方題目正在怎麼考

3 官方題3 考綱節點
114 年第 4 次 · 科目 1 · 第 27 題

在大型 Transformer 模型的效能優化過程中，常見的方法之一是「剪枝（Pruning） 」 。下列哪一項最符合該方法的核心概念？

114 年第 4 次 · 科目 2 · 第 42 題

某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？

115 年第 1 次 · 科目 2 · 第 10 題

某企業建置檢索增強生成（Retrieval-augmented generation, RAG）系統支援內部知識查詢。隨著使用量提升，團隊發現模型回覆品質穩定，但推論延遲與運算成本逐漸增加。專案規劃在維持回覆品質前提下進行效能優化。在此情境下，若採用知識蒸餾（Knowledge Distillation） ，下列敘述何者最為合理？

練習這個 Concept（3 題）