某雲端服務公司計畫將大型語言模型部署於線上系統，並以批次推論 （Batch Inference）方式處理每日上百萬筆用戶請求。專案團隊在評估可能遇到的挑戰時，下列哪一項通常不會被視為批次推論階段的主要難題？

某企業考慮將開源大型語言模型（GPT-OSS）自行部署在本地伺服器， 以取代雲端服務。下列何者最能代表本地部署對企業的實際好處？

某公司開發的智慧車載語音助理，可透過語音辨識（ASR）辨識駕駛語音，再由 LLM 生成回答並查詢車載 API。測試中發現：ASR 對汽車專業術語辨識錯誤率高；LLM 的回覆常不精確；系統回覆延遲雖存在但仍可接受。若目標是「優先提升準確性與回答品質」 ，下列改進步驟的最合理執行順序為何？ 1. 擴充並標註汽車領域語音資料，微調 ASR 模型 2. 微調 LLM 並加入檢索增強（RAG） 3. 優化系統架構，引入批次推論降低延遲 4. 動態調整生成溫度，平衡準確度與多樣性

在即時客服系統的效能測試中，若針對延遲測試（Latency Testing） 進行評估，下列哪一項指標最能反映系統是否符合用戶即時互動需求？

在 AI 推論服務架構設計中， 「批次推論（Batch Inference） 」與「即時推論（Real-time Inference） 」常依任務特性選擇不同機制。下列關於兩者特性的敘述何者最正確？

在大型語言模型（LLM）的推論服務中，常透過請求批次處理（Batching）來提升系統效能。關於批次處理（Batching）機制的影響，下列敘述何者最正確？

某保險公司每月處理約 50 萬筆理賠申請，希望建立 AI 系統自動識別可疑的詐欺案件。由於公司內部缺乏 AI 專業人員，且需要快速上線驗證效果，IT 資訊主管正在評估不同的 AI 平台解決方案。在去識別化個人隱私資料後，下列哪一種平台類型最適合該公司的需求？

某紡織製造公司導入 AI 系統進行布料瑕疵檢測，每天需處理來自 30 條產線的影像資料，包括高解析度照片、感測器數值、生產參數記錄等多種格式。該公司收集的資料量從每日 2GB 增長至 50GB，且需在布料離開產線前的 3 秒內完成瑕疵判定。近期團隊發現系統在尖峰時段容易出現判定延遲，影響製程節奏。若要優先改善此問題，下列哪一種做法最適合？

某企業導入生成式 AI 客服系統後發現，系統整體運作穩定，且在單位時間內可處理大量對話請求。部分使用者仍反映在互動過程中回覆出現卡頓感，經初步排除網路連線與前端介面效能問題後，若專案團隊希望針對此現象進行效能測試，下列何者最符合測試重點？

某製造企業規劃於設備端建置邊緣運算（Edge Computing）架構，並以 No-Code/Low-Code 平台開發即時監控應用。測試顯示，系統在雲端環境執行順暢， 但部署至邊緣裝置後出現回應延遲與效能下降。依此情境判斷，下列何者最合理解釋該現象？

某企業建置檢索增強生成（Retrieval-augmented generation, RAG）系統支援內部知識查詢。隨著使用量提升，團隊發現模型回覆品質穩定，但推論延遲與運算成本逐漸增加。專案規劃在維持回覆品質前提下進行效能優化。在此情境下，若採用知識蒸餾（Knowledge Distillation） ，下列敘述何者最為合理？

某企業提供大型語言模型（LLM）API 服務，需支援高併發請求與流量波動，同時要求服務不中斷並具備故障容忍能力。若以高可用性與可擴展性為主要設計原則，下列哪一種部署方式較為適當？