你請 AI 做一份市場研究。它搜尋了很多網頁，整理成漂亮報告，還在每段後面附上引用連結。看起來，這比沒有來源的聊天回答可靠很多。
但真正該問的不是「有沒有引用」，而是：這些引用是什麼等級的來源？如果來源本身是社群留言、論壇討論或任何人都能改寫的頁面，AI 引用了它，也不代表它就能支撐你的決策。
2026 年 6 月，多家科技與資安媒體報導了 Cornell Tech 研究團隊在 5 月發布的一篇論文。研究指出，深度研究型 AI，也就是會自己連續搜尋、整理、引用網頁並產出報告的 AI，在很多題目上會反覆抓到相同的使用者生成內容，例如 Reddit、Wikipedia 或論壇頁面。研究把這類攻擊稱為 Web Agent Retrieval Poisoning，意思是攻擊者不是直接改 AI 模型，而是在 AI 會抓取的網頁內容裡塞入短短一段文字，讓 AI 後續報告引用、推薦或放大攻擊者想要的說法。
這篇微課不是要你從此不用 AI 研究工具。相反地，深度研究型 AI 很適合幫你快速收集線索、整理候選答案、列出需要追查的方向。真正要改的是使用方式：不要把「AI 有附引用」當成完成查證，而要把它視為下一步查證清單。
先分清：搜尋結果、引用來源、決策證據不是同一件事
很多人看到 AI 報告有腳註，就會鬆一口氣。這很合理，因為沒有來源的 AI 回答確實更難查。但引用連結只能回答一個問題：「AI 從哪裡拿到這句話或這個線索？」它還不能回答另外兩個問題：
- 這個來源本身是否可靠？
- 這個來源是否真的足以支撐我要做的決策？
例如，一篇 Reddit 討論可能很適合讓你知道使用者在抱怨什麼，但不適合單獨用來判斷某個產品是不是市場第一名。一篇 Wikipedia 條目可能適合快速理解背景，但如果你要做採購、合規、醫療、財務或安全判斷，就還需要官方文件、原始研究、長期可信媒體或多個獨立來源互相確認。
深度研究型 AI 的問題在於，它會把不同等級的資料放進同一份流暢報告裡。讀者如果只看結果，很容易把「被引用」誤會成「已驗證」。
用四層來源表檢查 AI 研究報告
下次拿到 AI 深度研究報告時，可以先不要逐字修正文筆，而是把每個關鍵結論後面的引用分成四層。
| 來源層級 | 可以用來做什麼 | 不能單獨拿來做什麼 |
|---|---|---|
| 官方文件或原始資料 | 確認功能、價格、限制、政策、規格、發布日期 | 不能直接代替第三方評估，也不能證明使用者真的滿意 |
| 原始研究或可信媒體 | 理解研究方法、事件脈絡、獨立觀察與不同說法 | 不能在沒看方法與日期時，把單一報導當成永久事實 |
| 社群討論、論壇、Reddit、Wikipedia | 找使用者語言、常見問題、反例、待追查線索 | 不能單獨支撐採購、投資、醫療、資安或公開承諾 |
| 不明來源或二手整理 | 當成搜尋線索，拿去找更原始的資料 | 不能放進正式報告，也不能當成「已有來源」 |
這張表的重點不是否定社群資料。社群資料常常很有價值，因為它能顯示真實使用者怎麼描述問題。問題在於，它比較容易被少數人改寫、灌水、帶風向，或被 AI 在不同查詢中重複抓取後放大。
所以你可以把社群資料當作「問題雷達」，但不要把它當作「決策地基」。真正要放進決策地基的，至少要有官方資料、原始研究、可靠媒體或多個獨立來源交叉確認。
什麼情境要特別小心
不是每一次 AI 研究都需要做完整審核。如果你只是想快速了解一個新名詞，或整理一份私人閱讀清單，風險相對低。但下面幾種情境，不能只看 AI 報告是否寫得順：
- 要做採購或續約。 例如你要比較 AI 工具、資安產品、雲端服務或自動化平台。社群討論可以提供使用者痛點，但價格、限制、支援範圍與合約條款要回到官方文件。
- 要對外發布內容。 如果文章、簡報、白皮書會被客戶、媒體或合作夥伴引用，就不能把論壇說法包裝成已驗證結論。
- 要做安全或合規判斷。 只靠 Reddit 或論壇說某個做法安全，風險太高。至少要查官方安全公告、研究報告、漏洞資料庫或專業分析。
- AI 的答案剛好推薦某個產品、人名、公司或地點。 這類推薦最容易受到來源污染影響。你要確認它不是只因為某個可被改寫的頁面反覆出現在搜尋結果裡。
Cornell Tech 論文的提醒正是在這裡：攻擊者不一定需要改掉整個網路。只要找到深度研究工具常抓的使用者內容頁面，短短一段刻意設計的文字，就可能讓報告在一串相關問題中反覆提到攻擊者想推的選項。
把 AI 報告改成「待查證清單」
比較安全的工作流，不是禁止 AI 做研究，而是改變交付格式。請 AI 不只輸出結論，也輸出「哪些結論靠哪些來源支撐」。你可以要求它把每個關鍵句拆成這幾欄：
- 關鍵結論：這句話是否會影響決策、預算、公開承諾或下一步工作？
- 目前引用：AI 附上的來源是哪一篇、哪一頁、哪一段？
- 來源層級：官方、原始研究／可信媒體、社群討論，還是不明二手整理？
- 缺什麼證據：需要補官方文件、另一家媒體、原始研究、使用者案例，還是內部資料？
- 目前狀態：可引用、可當線索、需補證據、不可使用。
這樣做有兩個好處。第一，你不用從頭否定 AI 報告，因為它仍然幫你省下收集線索的時間。第二，你不會因為報告有引用就過早放心，因為每個引用都被放回它該有的位置。
如果 AI 回答無法清楚說明「這個結論由哪一個來源支撐」，那句話就只能算摘要或推測，不能進入正式決策。
小團隊可以先加的三個規則
第一，凡是會影響採購、發布、安全、法務或客戶承諾的 AI 研究報告，都要多一欄「來源層級」。沒有分層，就不要把報告當成已查證。
第二，社群來源只能當起點，不能當終點。當 AI 引用 Reddit、論壇、Wikipedia 或留言區時，下一步是用它找官方文件、原始研究或可信媒體，而不是直接把結論貼進簡報。
第三，明確指定負責這件事的人。這裡的「負責人」不是收信的人，而是會決定：哪些結論可以對外講、哪些需要補證據、哪些要刪掉的人。AI 可以幫忙整理，但不能替團隊承擔錯誤引用造成的後果。
這堂微課的結論
深度研究型 AI 讓搜尋變得很有效率。它能一次查很多頁、整理脈絡、附上引用，對忙碌的工作者很有幫助。
但引用不是護身符。當 AI 把社群討論、官方文件、研究論文和二手整理混在同一份報告裡，讀者要做的第一件事不是稱讚它寫得完整，而是把來源分層。
你可以把 AI 研究報告當成很好的第一版地圖。地圖會告訴你該往哪裡查，但真正要走到決策前，還是要確認每一條路是不是通往可靠來源。
用日常來理解
- AI 研究報告整理出很多引用，看起來完整，但每張卡片的來源等級不同。
- 團隊先辨認哪些是官方文件、研究或媒體，哪些只是社群討論或未知整理。
- 引用被放進四個來源層級，風險高或證據不足的卡片先留在待查證區。
- 最後人類用分層後的來源地圖做決策，AI 留在整理線索的位置。
AI 整理卡
依這篇情境，請 AI 幫你整理
複製到你自己的 AI 聊天工具，讓它把這篇微課轉成你的個人版檢查清單。BMC 不會看到你貼給 AI 的內容。
參考來源
- Cornell Tech / arXiv：Deep-Research Agents Can Be Poisoned via User-Generated Content — https://arxiv.org/abs/2605.24245
- Help Net Security：Using Reddit to manipulate AI search results is surprisingly easy — https://www.helpnetsecurity.com/2026/06/23/reddit-ai-search-poisoning-research/
- 404 Media：It Is Trivially Easy to Use Reddit to Manipulate AI Search, Research Suggests — https://www.404media.co/it-is-trivially-easy-to-use-reddit-to-manipulate-ai-search-research-suggests/
- Tom’s Guide：A 13-word Reddit comment can trick AI search into recommending scams, researchers find — https://www.tomsguide.com/ai/a-13-word-reddit-comment-can-trick-ai-search-into-recommending-scams-researchers-find
