P2 · 辨識即可
RAG
上下文噪音
是什麼
上下文噪音是放進模型上下文、卻與問題無關或重複的內容,例如檢索回來的不相關段落;它會分散模型注意力,讓回答失焦或出錯。
解決什麼問題
上下文不是越多越好;減少噪音才能讓模型專注在真正相關的資訊上。
考場 Trigger
- 檢索結果不相關、過於分散
- 長上下文噪音
- 塞太多資料反而答錯
容易搞混
檢索相關性RAG 文本切分上下文視窗
初級深度
看到名稱能辨識其類型與主要用途即可。
RAG
是什麼
上下文噪音是放進模型上下文、卻與問題無關或重複的內容,例如檢索回來的不相關段落;它會分散模型注意力,讓回答失焦或出錯。
解決什麼問題
上下文不是越多越好;減少噪音才能讓模型專注在真正相關的資訊上。
考場 Trigger
容易搞混
初級深度
看到名稱能辨識其類型與主要用途即可。
Official Evidence