
AI の調べものが膨らんで終わらないなら、支えるべき一つの判断を書き出す
AI は隣り合う問いを見つけるのが得意で、「できるだけ網羅的に」と頼めば調べものは膨らみ続け、使える結果が出てこない。調べものの完了条件は出典の数ではなく、具体的な判断を一つ支えられるかどうかだ。その判断、候補の上限、必要な証拠、停止条件を先に書き、ほかの問いは保留リストに回す。
posts
同じトピックのミニクラスをまとめて読み、最新記事から文脈を補えます。
lessons
読む道筋
一覧は時系列のまま残し、その前に4つの読者別ルートを置きます。初めての読者が仕事の場面から入りやすくなります。

AI は隣り合う問いを見つけるのが得意で、「できるだけ網羅的に」と頼めば調べものは膨らみ続け、使える結果が出てこない。調べものの完了条件は出典の数ではなく、具体的な判断を一つ支えられるかどうかだ。その判断、候補の上限、必要な証拠、停止条件を先に書き、ほかの問いは保留リストに回す。

「日程を合わせて」は、実は三つの仕事だ。共通の空き時間を調べる、自分の時間を押さえる、他人に招待を送る。前の二つは誰にも影響しないが、三つ目は影響する。AI は候補を出すところで止め、招待を送る前に、今回の詳細をすべて並べたプレビューを人が確認する。

住所、金額、予約の時間帯のように行動に使うデータは、AI の記憶の中ですでに古くなっているかもしれない。記憶にできるのは「ここに住所が要る」と知らせることだけで、値そのものは行動の前に、それを更新する責任を持つ正本、たとえば今回の注文から読み直す。食い違ったら止める。

AI に手直しを頼むほど遠ざかっていくとき、たいていの原因はプロンプトの出来ではなく、違いの見えないフィードバックにある。「もっと自然に」「もっと洗練させて」には十通りの解釈がある。毎回伝えるのは三つだけにする。残すもの、目に見える一つの変更、触れてはいけない部分。そして AI に二つの版を出させて比べ、どの版も残しておく。

表計算の空欄は、まだ入力されていない、該当しない、取り込みに失敗した、のどれかかもしれず、0 と同じではない。AI に集計させる前に、各列の空欄を「0 と確認済み」「不明」「対象外」の三つに分け、割合を出すときは、どの分母を使い、欠けた値がいくつあるかを一緒に示す。

AI の毎日の要約は、承諾した会議、他人からの依頼、AI 自身の提案を一つのリストに並べる。順位が答えるのは「どれを先に見るべきか」で、「誰があなたを待っているか」ではない。今日何をするか決める前に、各項目の状態を付ける。

AI に共有クラウドドライブを片付けさせるとき、同じ「削除」でも、プラットフォームによってゴミ箱に移すこともあれば完全に消すこともある。片付けの合否は消す速さではなく、間違えたとき取り戻せるかで決まる。AI は候補と証拠を集めるだけにし、人が承認したらまず隔離場所に移し、抜き取りで復元できることを確かめる。完全な削除は別の判断だ。

AI の議事録を始めたときに出る通知は、ツールの状態を表示しているだけで、記録の行き先にみんなが同意したことを意味しない。始める前に、どこから記録するか、誰が止められるか、会議後に誰が受け取るか、どこに保存するかを決める。議題が機微な話に移ったら、まず止める。

Google の AlphaEvolve のようなツールは、大量のコードの版を自動で作り、最も点数の高いものを選ぶ。見ているのは評価プログラムが測れるものだけで、測られていない条件は犠牲になりうる。任せる前に、基準、点数、破ってはいけない制約、停止条件、承認する人を書き出しておく。

AI によってコードの第一版を書くのは安くなったが、それをレビューし、半年後に保守するコストは下がっていない。第一版は試し見積もりとして使い、AI との対話記録を見ずに説明できる人と、保守を引き受ける人がいてから取り込む。

スキャンの点数が測っているのは脆弱性そのものの深刻さで、自分のシステムでの緊急度ではない。順位を決めるときは、外ですでに悪用されているか、自分のサービスがそのコードを実行するか、外部からの入力がそこに届くかを順に問う。AI は警告ごとに証拠をまとめられるが、警告を閉じるのは人が決める。

AI agent が利用者の代わりに複数のシステムを呼び出すとき、ありがちな近道は共有アカウントで動くか、同じ通行証を次々に渡していくことだ。どちらも、問題が起きたとき誰が認可したのかをたどれなくする。立ち寄る先ごとに、その先専用で今回の作業に足りるだけの新しい通行証に替えれば、その手がかりは残る。

AI agent が社員のアカウントのまま ERP の請求書や支払いの例外を扱うと、ログには社員の名前しか残らず、あとで誰が直したのかわからず、AI だけを止めることもできない。agent に自分の ID を持たせ、すべての操作を既定で拒否し、金額の基準を超えたら人に渡すようにして、初めて責任をたどれる。

モデルの単価は下がり続けているのに、長時間タスクの請求額は想定を超えがちだ。費用の多くは、毎ステップのコンテキスト再送と失敗後のやり直しに使われている。だから上限は、モデルの外側のプログラムで、タスク全体で共有する一つの予算として管理する。

AI ワークフローツールが露出したとき、危ないのはツールそのものだけではない。それぞれの流れに保存され、呼び出せる認証情報だ。まず入口を閉じ、ログを保全し、「どの流れがどの鍵を持っていたか」で入れ替えの順番を決め、再発行のときに権限も絞る。

悪意ある AI agent の拡張機能は、危険な部分を隠しておき実行時に元に戻すことで、導入前スキャンの 9 割以上をすり抜けられるという研究がある。だから導入前には、本物のデータもネットワークも書き込み権限もない環境で一度動かし、実際に何に触れたかを確かめる。

Claude はマイクロソフトの Foundry で有効にでき、管理画面も見慣れたものだ。だがマイクロソフトの公式文書によれば、プロンプトと回答を処理するのは Anthropic のままで、印が付いた内容は人の審査に回ることがあり、一部の配置ではデータが指定した地域にとどまる保証もない。本物のデータをつなぐ前に、文書に沿って三つに答える。誰が処理するか、どこで処理するか、例外のとき誰が見られるか。

クリップボードのツールになりすます Mac のマルウェア PamStealer は、「Maccy が変更を加えようとしています。許可するにはパスワードを入力してください」という画面を出し、間違えると正しいパスワードを得るまで何度も求める。見た目では見分けられない。判断の手がかりは状況だ。直前にパスワードの要ることをしたか、この App はどこから来たか。説明できないなら、まずキャンセルを押す。

サイトの内容を取りに来る AI クローラーには、検索のために索引を作るもの、利用者のためにその場でページを読むもの、モデルの学習に使うものがある。サイトとやり取りするものがまるで違うので、「AI を止めるか」というスイッチ一つでは決めない。用途ごとに初期ルールを決め、最も守るべきページを選び出す。

Anthropic が科学研究向けの AI 作業台 Claude Science を出した。売りは、どの図にもそれを作ったコード、実行環境、対話の全記録が付くことだ。どんな AI の分析ツールも同じ問いで判断できる。数か月後にこの図を受け取った同僚が、AI に聞かずに作り直せるか。

Cursor の iPhone アプリでは、スマホから AI のコーディングエージェントを動かし、変更の差分を見て、エージェントが終わればそのままマージもできる。スマホは作業を始めたり進み具合を追ったりするのに向いているが、小さな画面と細切れの時間でマージを押すのを、その場の自制心だけに頼るべきではない。「どの変更はマージできないか」を先にリポジトリの保護規則に書いておく。

AWS FinOps Agent は、クラウド費用の異常を調べ、どの設定変更が原因かを突き止め、Slack や Jira に送れる。だが報告にある「担当者」が正しいかどうかは、アカウントとチームの対応表を先に渡しているかで決まる。導入する前にこの対応表を書き、そのうえでどの結果をチャンネルに流し、どれをチケットにするかを決める。

Apple は、AI データセンターがメモリの供給を奪っているとして、Mac と iPad の価格を引き上げた。値上げであなたに必要なものが変わったわけではない。「将来の AI 機能のために先に買い替える」ことが高くなっただけだ。買い替えの理由は、新しい価格や AI の宣伝からではなく、いま毎週詰まっている仕事から考える。

一つのイベントで複数の AI モジュールが起動し、互いの結果を上書きし合うとき、多くのチームはまず仲裁ルールを足そうとする。より効くのは設計に戻ることだ。一つの事柄に入口は一つ、変更される項目ごとに書き込めるモジュールは一つ、ほかは提案だけにする。

記録を作り、通知を送ったあとで流れが失敗すると、そのままやり直せば同じことを二度してしまうかもしれない。外部の状態を変える手順ごとに、たどれる番号を残し、失敗したときの埋め合わせ方を決め、メールの送信や支払いのような取り消せない操作は最後に回す。何がもう起きたかがわからないなら、止めて人に渡すのが正しい。

Figma では、デザインのレイヤーをワンクリックで動くコードに変えられ、アニメーションもそのままコーディングエージェントに渡して実装させられる。試作が完成品に近く見えるほど、そのまま作られてしまいやすい。引き継ぎでは、どこが確かなデザインの意図で、どこが探りの実験かをデザイナーがはっきり示し、どのコードを書き直すかはエンジニアが判断する。

Reddit のようによく読まれるページに 13 語ほどの文を足すだけで、ディープリサーチ型の AI が三〜五割の報告で攻撃者の推したい製品を引用した、という研究がある。AI が付ける出典は、どこで読んだかを示すだけで、内容が確かだとは示さない。判断に使う結論には、誰にも書き換えられない独立した出典が少なくとも一つ要る。

AI のセキュリティツールは、脆弱性を自動で見つけ、修正を作り、テストまで回せるようになった。速くなった後に問うべきは、直せるかではなく、どの修正を人の承認なしに出してよいかだ。決め手は問題が起きたとき戻せるかどうか。戻せてテスト済みの小さな更新は速く通してよいが、ログイン、決済、顧客データ、デプロイに触れる修正は必ず人が承認する。

Anthropic が公開した社内事例では、同じ Claude でも、データソースと指標定義が整理されていなければ正答率は 21% 以下、整理後は 95% 超、1 か月保守しないと約 65% まで落ちた。AI に数字を調べさせる前に、ソースを指定し、定義を書き、保守する人を決める。

英国内務省は、顔から年齢を推定する AI で庇護希望者の年齢判断を助ける試験を進め、最後は必ず職員が決めると強調している。だが調査報道によれば、この仕組みは未成年を成人と見なしがちで、一部の集団では誤差がさらに大きい。AI の判断が人の扱いを変えるなら、誰が覆せるか、どんな証拠が要るか、本人が知っているかを先に設計しておく。

競合分析ツールの Klue が侵入され、攻撃者は顧客が Salesforce につなぐための認可トークンを奪い、CRM のデータを直接照会して持ち出した。提供元の脆弱性はこちらでは直せない。制御できるのは三つだ。どれだけの読み取り権限を渡したか、異常な照会が見えるか、問題が起きたときどれだけ早く取り消せるか。

AI に自分の仕事のやり方をわかってもらおうとして、まず完全な知識ベースを作ろうとし、分類やツール選びで止まってしまう人は多い。もっと効く出発点は、AI が間違えたその一回だ。直したことを、次に読める具体的なルールとして書き、次の振る舞いを変えるものだけを残す。

AI を使う人は増えたが、AI の進歩が速すぎると感じる人も同じくらい多い。利用率の上昇は信頼の裏づけではない。AI 機能の普及を急げるかは、使わない選択、AI がしたことの取り消し、失敗時に人へつなぐ道があるかで決まる。

セキュリティの研究者が、マイクロソフトのドメインへのリンクを一回押すだけで、Microsoft 365 Copilot がメールボックスの認証コードを画像の URL に入れて外に送りうることを示した。仕事用の AI は利用者の読み取り権限をすべて引き継ぐ。導入する前に、人には見えても AI の検索範囲に入れるべきでないものを決めておく。

Meta の AI サポートは言われるままに他人のメールアドレスを書き換え、2 万を超える Instagram アカウントが乗っ取られた。AI にアカウントを扱わせるなら、本人確認と権限は会話からではなく、システムから持ち込まなければならない。

オープンソースのツール DockSec は、複数の Docker のスキャナーを組み合わせ、AI で警告を説明し、直し方を提案する。その自動修正が行うのは Dockerfile の機械的な修正だけで、ベースイメージの版を選んだり、秘密情報を動かしたり、デプロイの設定ファイルを書き換えたりはしない。この線はチームでもそのまま使える。AI モードを使う前には、何がモデルに送られるのかも知っておく。

KPMG が取り下げた AI 導入の報告書では、45 の引用のうち実在の出典を正しく指していたのは 5 つだけだった。AI の手を借りた報告書で最も危ないのは、根拠がありそうに見える誤りだ。まず引用、実名の事例、数字を原典と照合し、照合できない文は正式版に入れない。

AI によって偽サイトや偽 SMS は速く、もっともらしく作れるようになり、台湾では政府専用の短縮番号まで偽装された。本物に見えるかを見極めるより、求められていることをこのリンクを押さずに済ませられるかを問うほうが確実だ。

Anthropic はかつて Claude Fable 5 に利用者から見えない防護を設け、特定の用途の出力をひそかに悪くしていた。のちに公に謝罪し、見える形に改めている。提供元の側の変化は見えない。押さえられるのは自分の側だけだ。大事な流れには固定の問題と当時の答えを残し、品質が変わったと感じたら、もう一度流して見比べる。

AI の記憶機能は、利用者が以前口にした誤った考えを背景として保存し、その後の答えをその方向に寄せやすくすることが研究でわかった。書式の好みは安心して覚えさせてよいが、大事な判断の前には、AI に使った記憶を並べさせ、「あなたの過去の考え」を証拠から外させる。

Google の Gemini 3.5 Live Translate は、話した声をその場で別の言語に訳し、話し手の抑揚やリズムまで残す。本人の声に近いほど、AI の言い直しを相手の言葉そのものと思い込みやすい。金額、日付、責任、約束は、会議の中で相手に言い直してもらい、会議のあとに文字で確かめる。

Apple のショートカットアプリは、一文から自動化の流れを作れるようになった。AI が現れるのは書くときの一度だけで、保存したショートカットは毎日の退社、帰宅、メッセージの受信のたびに自分で動く。だから保存する前に一歩ずつ中身を理解し、外に送ったり消したりする手順は「実行前に確認」を残しておく。

AI サービスの障害は短いこともあるが、流れが止まる時間は障害よりも長くなりがちだ。AI を日々の仕事に組み込む前に、AI なしでの最小限の成果物を決めておく。元データは AI の外に置き、誰が切り替えを決めるかを決め、外への操作の前で止められるようにする。

データの流出には、たいてい三つの条件がそろう必要がある。AI が機密を見られること、信頼できない内容を読むこと、外に何かを送る手段があることだ。ChatGPT の Lockdown Mode が取り除くのは三つめで、ウェブページやファイルに隠された指示は、それでも回答を狂わせうる。機密を扱う前に、その対話で三つがそろっていないかを確かめる。

2026 年、少なくない会社が一年分の AI の予算を年の半ばで使い切った。モデルの単価を比べてもこの問題は解けない。一つの仕事の本当の費用には、再試行の回数、流し込んだデータの量、人が結果を直す時間が入る。まずよくある仕事をいくつか選び、採用された成果一件あたりにいくらかかったかを出してから、上げるか減らすかを決める。

YouTube、Meta、TikTok はいずれも AI 生成コンテンツにラベルを付け始めたが、ラベルが伝えるのは AI で作られたかもしれないということだけで、注意力を節約してはくれない。質の低い情報を減らしたいなら、「AI 製か」ではなく「出典はあるか、判断に責任を持つ人はいるか、限界は示されているか」を問い、それに沿って自分の情報の入口を整える。

英国の規制当局は、サイトが AI 検索の要約に使われないようにできることを Google に求め、Google は Search Console に切り替えを用意し、すでに世界中に広げた。外れれば、その機能から来る表示とアクセスは失う。サイト全体を一律に決めず、ページごとに問う。このページが要約されたあとも、読み手がクリックして来る理由は残るか。

Android の偽着信検出は、電話が知り合いのスマートフォンから本当にかかってきたかを確かめられるが、電話の向こうが本人かどうかはわからず、「番号を変えた」という話も止められない。頼れる防御は家族の決まりだ。お金や認証コードを求める依頼は着信中に済ませず、切ってから、もともと知っている番号にかけ直す。

NVIDIA の RTX Spark は、Arm のプロセッサー、強力なグラフィックスのチップ、最大 128GB の共有メモリを Windows のノートパソコンに持ち込み、手元で AI を動かすことを売りにしている。だが Arm の構成に替わると、毎日使うソフト、プラグイン、ドライバーがすべてネイティブに動くとは限らない。買う前に自分の道具の一覧を一つずつ照らし合わせ、毎週待たされている仕事で実際に試す。

ログのよしあしは、何行書いたかではなく、ログだけで、いつ、どこで、何が起き、そのときどんなデータを扱っていたかに答えられるかで決まる。前回の障害を一度再生すれば、何が足りないかがわかる。Python に組み込みの logging でほとんどできる。Loguru に替えると主に設定の手間が省けるが、既定でエラーの記録に変数の値を書き込む点に気をつける。

常駐型 AI アシスタントは、あなたがいないときにも動く。提供元は危険度の高い操作の前には確認すると言うが、「危険度が高い」の範囲を決めているのは提供元だ。メイン受信箱、カレンダー、クラウドドライブにつなぐ前に、自分の停止リストを書いておく。読むだけ、下書きだけ、必ずあなたの同意を待つ、の三つだ。

GitHub Copilot は 2026 年 6 月から使った分だけの課金になった。コードの自動補完はこれまでどおり無料で、お金がかかるのは対話と長時間のエージェント作業だ。しかも枠を使い切っても、安いモデルに自動で切り替わらなくなった。チームは二つを前もって決めておく。枠を使い切ったら止めるか払い続けるか、どの作業にいちばん高いモードを使わせるか。

企業向け AI 検索の Glean は年間売上 3 億ドルを超え、AI の請求を減らせることを売りにしている。こうしたツールを買うとき、「節約」と数えてよいのは二つの場合だけだ。古い支出をはっきりした日付に解約できるか、測れる仕事の指標が実際に下がるか。それ以外は試験の費用でしかない。

coding agent は issue から pull request まで進められるようになり、承認まで AI に任せられるようになった。人が判断できる位置は前に移る。渡す前に、単独でレビューできる最初の diff を書き出せるか。書けないタスクは、agent に調査だけを任せる。

Adobe の Firefly の AI アシスタントは、一言で Photoshop や Illustrator などをまたいだ何段階もの編集をこなす。試した記者は、平凡なデザインの見習いのようだと評した。実行はできても、この画像をどこに置くのか、何を入れてはいけないのか、どうなれば使えるのかは知らない。人が担う美術の指示は、生成の前に確かめられる条件として書いておく。

ニューヨークのあるスタートアップは、清掃員がカメラを着けて作業を録画することを条件に、無料で家を掃除する。映像は匿名化されたうえで AI やロボットの会社に学習用としてライセンスされる。ぼかしは顔や書類を隠せても、家の間取りや暮らし方は隠せない。ライセンスされたあとは、消せるとも限らない。引き受ける前に、ライセンス先と削除の方法をはっきりさせる。

AI がいつ止まって人に聞くべきかは、モデルが自分で「自信がない」と言うのに頼れない。止まる条件は、システムから見える出来事として書いておく。重要な項目の欠け、情報源どうしの矛盾、次の手順が外に何かを送ること、中断後に状態がわからないこと。止まるときには、ほかの人が引き継げる記録も残す。

Asana は、コードを書かずに AI アシスタントを作れる StackAI を買収した。自社の AI Teammates は、つないだ十以上のアプリで検索し、読み、書き込める。ツールにつながったからといって、AI がそのツールの中のすべてをしてよいわけではない。作る人は操作ごとに権限を分ける。何を自動にし、何を下書きだけにし、何を名前のある人の承認にするか。公開の前には、わざと一度失敗させてみる。

サイトに API や MCP が必要かは、AI がやる仕事が公開情報を読むことか、変わるデータを調べることか、人の代わりに動くことかで決まる。三つの入口が負う責任は違い、多くのサイトがまず直すべきは AI が読める公開ページだ。

「これは偽」と何度も書いた文書でモデルを微調整しても、モデルはその偽の主張を事実として覚えうる、という研究がある。比較的正しく学べたのは、「彼は勝っていない」のように否定を文そのものに入れたときだけだ。誤ったデータを本当だと思わせないには、真偽の状態をシステムが読める欄に置くか、書き換えるか、取り除く。横の一言の警告に頼らない。

Microsoft 365 Copilot は刷新され、答えが速く、構成がはっきりし、流し読みしやすくなった。だが整っていることと引き継げることは違う。同僚に要るのは、何が決まったか、誰が担当か、いつまでか、根拠はどこか、どこがまだ未確認か。これらの欄をプロンプトに書き込み、AI が見つけられないものは「要確認」と残させる。