你請 AI 做一份市場研究，它搜尋了幾十個網頁，整理成一份流暢的報告，每段後面都附上引用連結。看起來比沒有來源的聊天回答可靠得多。
2026 年 5 月，康乃爾理工學院（Cornell Tech）的研究者發表論文，測試會自己連續搜尋、整理並寫成報告的「深度研究型」AI。他們發現，這類 AI 在很多題目上反覆讀取同一批使用者自行發布的內容，例如 Reddit 和維基百科。攻擊者只要在其中一個常被讀到的頁面加上一小段文字，最少約 13 個字，這段文字在針對該主題的執行中有 57% 到 76% 被讀到，並在 38% 到 51% 的報告裡被引用。研究者稱這種手法為「網頁代理檢索投毒」，不需要碰 AI 模型本身，只要能在公開平台上發文就做得到。
所以 AI 報告附上的來源，只說明它從哪裡讀到這句話，不證明這句話可靠。要拿來做決定的結論，至少要有一個任何人都改不了的獨立來源支撐。
引用連結只回答「從哪裡讀到」
引用連結只回答一個問題：AI 從哪裡拿到這個說法。它不回答另外兩個問題：這個來源本身可不可靠，以及它足不足以支撐你要做的決定。
深度研究型 AI 的麻煩在於，它會把不同等級的資料放進同一份流暢的報告。一則論壇留言和一份官方規格文件，在報告裡都只是一個小小的腳註。讀者只看結果，很容易把「被引用」誤會成「已驗證」。研究者也提醒，使用者往往覺得 AI 的輸出很有說服力，即使裡面有明顯的錯誤。
把關鍵結論的來源分成四層
拿到報告後，先別急著修文字，把每個會影響決定的結論，依引用來源分層：
官方文件或原始資料： 產品規格、價格、政策、公告。可以用來確認事實，但不能代替第三方評估。
原始研究或可信媒體： 有方法、有日期的研究和報導。看過方法和日期，才拿來當依據。
社群討論、論壇、維基百科： 適合找使用者怎麼描述問題、常見抱怨和待追查的線索，但任何人都能改寫，也最容易被灌水。
不明來源或二手整理： 只能當搜尋線索，拿去找更原始的資料，不能放進正式報告。
規則很簡單：一個結論如果只靠第三、四層撐著，它就是線索，不是證據。社群資料可以當問題雷達，不能當決策地基。
這三種情況一定要補證據
快速了解一個新名詞、整理私人閱讀清單，風險不高。但下面三種情況，不能只看報告寫得順不順：
採購或續約。 價格、限制、支援範圍和合約條款，要回到官方文件確認。
對外發布。 文章、簡報、白皮書如果會被客戶或媒體引用，不能把論壇說法包裝成已驗證的結論。
安全或合規判斷。 只靠論壇說某個做法安全，風險太高，要查官方安全公告或專業分析。研究裡被測試的題目，就包括防毒軟體推薦和投資建議。
目前沒有一鍵解法
研究者發現，直接排除所有使用者發布的內容可以擋住這種攻擊，但報告品質也會下降；而輕量的異常偵測，無法穩定抓到被投毒的內容。也就是說，這個問題目前沒有一鍵解法，還是要靠讀報告的人分層檢查。
如果報告的問題是引用本身出錯，例如連結失效或內容對不上，參考〈AI 協助寫的報告，先查引用再修文筆〉。研究範圍越查越大時怎麼收手，參考〈AI 研究查得越多越收不了尾，先寫下它要支持哪一個決定〉。
AI 整理卡
我拿到一份 AI 深度研究報告，準備用它做決定，想先檢查哪些結論的來源撐得住。
判斷方法來自這篇文章：https://boosterminiclass.com/posts/deep-research-source-poisoning-checklist/
文章的看法是：AI 報告附上的來源，只說明它從哪裡讀到，不證明內容可靠。研究顯示，在常被讀取的社群頁面加上一小段文字，就能讓深度研究型 AI 引用攻擊者想推的內容。要拿來做決定的結論，至少要有一個任何人都改不了的獨立來源。
報告全文附在這段文字之後。請依序完成：
1. 先問我這份報告會被拿去做什麼決定；
2. 列出會影響這個決定的關鍵結論，每一個標出引用來源屬於哪一層：官方文件或原始資料、原始研究或可信媒體、社群討論或維基百科、不明來源；
3. 標出只靠社群或不明來源撐著的結論，說明需要補哪一類獨立來源；
4. 最後把結論分成三類：可以用、補證據後才能用、只能當線索不能進決策。
不要替我找新的來源補上，只指出缺口。
參考來源
- arXiv（Cornell Tech 研究論文）：Deep-Research Agents Can Be Poisoned via User-Generated Content — https://arxiv.org/abs/2605.24245（2026-05-22）
- Help Net Security：Using Reddit to manipulate AI search results is surprisingly easy — https://www.helpnetsecurity.com/2026/06/23/reddit-ai-search-poisoning-research/（2026-06-23）
- 404 Media：It Is Trivially Easy to Use Reddit to Manipulate AI Search, Research Suggests — https://www.404media.co/it-is-trivially-easy-to-use-reddit-to-manipulate-ai-search-research-suggests/ [accessed: 2026-10-11]
