AIツールと活用
AI が住所を覚えていても、いまそこへ送ってよいとは限らない
住所、金額、予約の時間帯のように行動に使うデータは、AI の記憶の中ですでに古くなっているかもしれない。記憶にできるのは「ここに住所が要る」と知らせることだけで、値そのものは行動の前に、それを更新する責任を持つ正本、たとえば今回の注文から読み直す。食い違ったら止める。
tag
プライバシー
同じトピックのミニクラスをまとめて読み、最新記事から文脈を補えます。
7
lessons
タグ導読
プライバシー
AI サービスを便利だから使う前に、データ、同意、保存、撤回権を確認します。
セキュリティ
会議に AI の書記が加わるなら、始める前に四つのことを決めておく
AI の議事録を始めたときに出る通知は、ツールの状態を表示しているだけで、記録の行き先にみんなが同意したことを意味しない。始める前に、どこから記録するか、誰が止められるか、会議後に誰が受け取るか、どこに保存するかを決める。議題が機微な話に移ったら、まず止める。
AIトレンドと産業
AI が年齢を判断するとき、「最後は人が決める」は本当に覆せて初めて意味がある
英国内務省は、顔から年齢を推定する AI で庇護希望者の年齢判断を助ける試験を進め、最後は必ず職員が決めると強調している。だが調査報道によれば、この仕組みは未成年を成人と見なしがちで、一部の集団では誤差がさらに大きい。AI の判断が人の扱いを変えるなら、誰が覆せるか、どんな証拠が要るか、本人が知っているかを先に設計しておく。
開発と技術
サードパーティのツールが侵入されたとき、CRM の損失の大きさは渡した権限で決まる
競合分析ツールの Klue が侵入され、攻撃者は顧客が Salesforce につなぐための認可トークンを奪い、CRM のデータを直接照会して持ち出した。提供元の脆弱性はこちらでは直せない。制御できるのは三つだ。どれだけの読み取り権限を渡したか、異常な照会が見えるか、問題が起きたときどれだけ早く取り消せるか。
AIツールと活用
知り合いからの緊急電話は、声だけで本物かどうかを判断しない
Android の偽着信検出は、電話が知り合いのスマートフォンから本当にかかってきたかを確かめられるが、電話の向こうが本人かどうかはわからず、「番号を変えた」という話も止められない。頼れる防御は家族の決まりだ。お金や認証コードを求める依頼は着信中に済ませず、切ってから、もともと知っている番号にかけ直す。
AIツールと活用
常駐型 AI アシスタントは、止まることを覚えてから主要アカウントにつなぐ
常駐型 AI アシスタントは、あなたがいないときにも動く。提供元は危険度の高い操作の前には確認すると言うが、「危険度が高い」の範囲を決めているのは提供元だ。メイン受信箱、カレンダー、クラウドドライブにつなぐ前に、自分の停止リストを書いておく。読むだけ、下書きだけ、必ずあなたの同意を待つ、の三つだ。
AIトレンドと産業
無料の掃除で家を撮らせるなら、映像を誰にライセンスするのか、消せるのかを先に聞く
ニューヨークのあるスタートアップは、清掃員がカメラを着けて作業を録画することを条件に、無料で家を掃除する。映像は匿名化されたうえで AI やロボットの会社に学習用としてライセンスされる。ぼかしは顔や書類を隠せても、家の間取りや暮らし方は隠せない。ライセンスされたあとは、消せるとも限らない。引き受ける前に、ライセンス先と削除の方法をはっきりさせる。