P1 · 應會
Prompt / Context
少樣本提示與少樣本微調
是什麼
Few-shot Prompting = examples in context, no weight update;Few-shot Fine-tuning = update weights with few examples, watch overfitting。
解決什麼問題
這題考 Few-shot Prompting 在推理時提供例子、不更新權重;Few-shot Fine-tuning 會更新權重,因此小資料時要注意過擬合。
考場 Trigger
- 看到『不用訓練、改 Prompt 即生效』→ Few-shot Prompting
- 『更新模型參數』→ Fine-tuning
容易搞混
過擬合免訓練適應
初級深度
掌握主要用途、考試線索與必要邊界即可。