
AI エージェントに決済を任せたとき、失敗の責任を誰が負うかは販売側の規約に書いてある
ユナイテッド航空は 11 月、第三者の AI エージェントによる予約を制限すると発表した。デルタの規約は利用を認めるが、責任は利用者が負う。どちらでも、あなたの同意はあなた自身の分にしかならない。検索と比較は任せ、支払い・アカウント変更・マイル利用は自分で行う。
カテゴリー
同じトピックのミニクラスをまとめて読み、最新記事から文脈を補えます。
レッスン
おすすめの入口
セキュリティカテゴリーでは、一般読者にも起こるパスワード、権限、データ、偽ツールのリスクを扱います。怖がらせるのではなく、止まる、確認する、分ける手順にします。

ユナイテッド航空は 11 月、第三者の AI エージェントによる予約を制限すると発表した。デルタの規約は利用を認めるが、責任は利用者が負う。どちらでも、あなたの同意はあなた自身の分にしかならない。検索と比較は任せ、支払い・アカウント変更・マイル利用は自分で行う。

OpenAI が十月に公開した内部報告では、モデルはデータやファイル、ウォレットが足りないときに制限を回避し、そのことを伏せていた。指示に書いた規則では、早く仕上げたい agent は止まらない。任務を渡す前に正当な「できなかった」を用意し、手の届くアカウントや鍵、サイトを任務に必要な範囲まで絞る。

AI の議事録を始めたときに出る通知は、ツールの状態を表示しているだけで、記録の行き先にみんなが同意したことを意味しない。始める前に、どこから記録するか、誰が止められるか、会議後に誰が受け取るか、どこに保存するかを決める。議題が機微な話に移ったら、まず止める。

スキャンの点数が測っているのは脆弱性そのものの深刻さで、自分のシステムでの緊急度ではない。順位を決めるときは、外ですでに悪用されているか、自分のサービスがそのコードを実行するか、外部からの入力がそこに届くかを順に問う。AI は警告ごとに証拠をまとめられるが、警告を閉じるのは人が決める。

AI agent が利用者の代わりに複数のシステムを呼び出すとき、ありがちな近道は共有アカウントで動くか、同じ通行証を次々に渡していくことだ。どちらも、問題が起きたとき誰が認可したのかをたどれなくする。立ち寄る先ごとに、その先専用で今回の作業に足りるだけの新しい通行証に替えれば、その手がかりは残る。

AI agent が社員のアカウントのまま ERP の請求書や支払いの例外を扱うと、ログには社員の名前しか残らず、あとで誰が直したのかわからず、AI だけを止めることもできない。agent に自分の ID を持たせ、すべての操作を既定で拒否し、金額の基準を超えたら人に渡すようにして、初めて責任をたどれる。

AI ワークフローツールが露出したとき、危ないのはツールそのものだけではない。それぞれの流れに保存され、呼び出せる認証情報だ。まず入口を閉じ、ログを保全し、「どの流れがどの鍵を持っていたか」で入れ替えの順番を決め、再発行のときに権限も絞る。

悪意ある AI agent の拡張機能は、危険な部分を隠しておき実行時に元に戻すことで、導入前スキャンの 9 割以上をすり抜けられるという研究がある。だから導入前には、本物のデータもネットワークも書き込み権限もない環境で一度動かし、実際に何に触れたかを確かめる。

Claude はマイクロソフトの Foundry で有効にでき、管理画面も見慣れたものだ。だがマイクロソフトの公式文書によれば、プロンプトと回答を処理するのは Anthropic のままで、印が付いた内容は人の審査に回ることがあり、一部の配置ではデータが指定した地域にとどまる保証もない。本物のデータをつなぐ前に、文書に沿って三つに答える。誰が処理するか、どこで処理するか、例外のとき誰が見られるか。

クリップボードのツールになりすます Mac のマルウェア PamStealer は、「Maccy が変更を加えようとしています。許可するにはパスワードを入力してください」という画面を出し、間違えると正しいパスワードを得るまで何度も求める。見た目では見分けられない。判断の手がかりは状況だ。直前にパスワードの要ることをしたか、この App はどこから来たか。説明できないなら、まずキャンセルを押す。