AI に市場調査を頼むと、何十ものウェブページを検索して、なめらかな報告にまとめ、段落ごとに引用のリンクまで付けてくれる。出典のないチャットの回答よりずっと頼れそうに見える。
2026 年 5 月、コーネル工科大学（Cornell Tech）の研究者が論文を発表した。何段階にもわたって自分で検索し、整理し、報告にまとめる「ディープリサーチ型」の AI を試したものだ。こうした AI は、多くの話題で同じ利用者投稿のコンテンツ、たとえば Reddit やウィキペディアを繰り返し読んでいた。攻撃者がよく読まれるページの一つに短い文、少なければ 13 語ほどを足すと、その話題での実行の 57〜76% でその文が読まれ、報告の 38〜51% で引用された。研究者はこの手口を「ウェブエージェント検索汚染」と呼んでいる。AI のモデルそのものに触れる必要はなく、公開の場に投稿できさえすればよい。
だから AI の報告に付いた出典は、その一文をどこで読んだかを示すだけで、その一文が確かだとは示さない。判断に使う結論には、誰にも書き換えられない独立した出典が少なくとも一つ要る。
引用リンクが答えるのは「どこで読んだか」だけ
引用のリンクが答えるのは一つの問いだけだ。AI はこの主張をどこから得たのか。残る二つの問いには答えない。その出典そのものは信頼できるのか。それはあなたがしようとしている判断を支えるのに足りるのか。
ディープリサーチ型の AI の厄介なところは、質のまったく違う材料を一つのなめらかな報告に入れてしまうことだ。掲示板の書き込みも公式の仕様書も、報告の中では小さな脚注の一つにすぎない。結果だけを読む人は、「引用されている」を「確かめてある」と取り違えやすい。研究者も、利用者は AI の出力に明らかな誤りが含まれていても、それをとても説得力があると感じがちだと注意している。
重要な結論の出典を四段に分ける
報告を受け取ったら、まず文章を直そうとしないこと。判断に響く結論ごとに、引いている出典を段に分ける。
公式の文書や一次資料： 製品の仕様、価格、方針、発表。事実の確認に使えるが、第三者の評価の代わりにはならない。
一次の研究や信頼できるメディア： 方法と日付のある研究や報道。方法と日付を確かめてから根拠に使う。
コミュニティの議論、掲示板、ウィキペディア： 利用者が問題をどう言い表すか、よくある不満、追うべき手がかりを探すのに向くが、誰でも書き換えられ、水増しも最もしやすい。
出どころ不明か、また聞きのまとめ： より一次の資料を探すための手がかりにとどめ、正式な報告には入れない。
規則は単純だ。ある結論が三段めか四段めだけに支えられているなら、それは手がかりであって証拠ではない。コミュニティの材料は問題を見つけるレーダーにはなるが、判断の土台にはならない。
この三つの場面では必ず証拠を足す
新しい言葉をざっと理解する、個人的な読書の一覧を作る、といった程度ならリスクは低い。だが次の三つの場面では、報告が読みやすいかどうかだけで判断してはいけない。
購入や契約の更新。 価格、制限、サポートの範囲、契約の条件は、公式の文書で確かめる。
外部への公開。 記事、資料、白書が顧客やメディアに引用されるなら、掲示板の言い分を確かめた結論のように見せてはいけない。
セキュリティやコンプライアンスの判断。 掲示板で安全だと言われているだけを頼りにするのは危なすぎる。公式のセキュリティ情報や専門家の分析を確かめる。研究で試された話題には、ウイルス対策ソフトの推薦や投資の助言も含まれていた。
いまのところ、一発で解ける方法はない
研究者は、利用者投稿のコンテンツをすべて除けばこの攻撃は防げるが、報告の質も下がること、そして手軽な異常検知では汚染された内容を安定して見つけられないことを示している。つまり、いまのところ一発で片付く方法はなく、報告を読む人が段ごとに確かめるしかない。
引用そのものが間違っている、たとえばリンクが切れている、内容が合わない、といった問題なら、AI の手を借りた報告書は、文章を整える前に引用を確かめるを参考にしてほしい。調べるほど範囲が広がっていく調査の切り上げ方は、AI の調べものが膨らんで終わらないなら、支えるべき一つの判断を書き出すも参考になる。
AI 整理カード
AI のディープリサーチの報告を受け取り、これを判断に使おうとしている。どの結論の出典が持ちこたえられるかを先に確かめたい。
判断方法はこの記事による：https://boosterminiclass.com/ja/posts/deep-research-source-poisoning-checklist/
記事の見方はこうだ。AI の報告に付いた出典は、どこで読んだかを示すだけで、内容が確かだとは示さない。よく読まれるコミュニティのページに短い文を足すだけで、ディープリサーチ型の AI に攻撃者の推したい内容を引用させられるという研究がある。判断に使う結論には、誰にも書き換えられない独立した出典が少なくとも一つ要る。
報告の全文はこの文のあとに付けてある。次の順に進めてほしい。
1. まず、この報告を何の判断に使うのかを私に聞く；
2. その判断に響く重要な結論を挙げ、それぞれが引く出典がどの段かを示す。公式の文書や一次資料、一次の研究や信頼できるメディア、コミュニティの議論やウィキペディア、出どころ不明；
3. コミュニティか出どころ不明の出典だけに支えられた結論に印を付け、どんな種類の独立した出典を足すべきかを書く；
4. 最後に結論を三つに分ける。使ってよいもの、証拠を足してから使えるもの、手がかりにとどめて判断に入れないもの。
私の代わりに新しい出典を探して埋めないこと。抜けを指摘するだけにすること。
参考資料
- arXiv（Cornell Tech の研究論文）：Deep-Research Agents Can Be Poisoned via User-Generated Content — https://arxiv.org/abs/2605.24245（2026-05-22）
- Help Net Security：Using Reddit to manipulate AI search results is surprisingly easy — https://www.helpnetsecurity.com/2026/06/23/reddit-ai-search-poisoning-research/（2026-06-23）
- 404 Media：It Is Trivially Easy to Use Reddit to Manipulate AI Search, Research Suggests — https://www.404media.co/it-is-trivially-easy-to-use-reddit-to-manipulate-ai-search-research-suggests/ [accessed: 2026-10-11]
