月末、製品の利用アンケートに 100 件の回答が集まった。その中に「今月この機能を何回使ったか」という質問がある。AI にまとめてもらうと、「62% の人が今月この機能を使っていない」と返ってきた。きれいな数字だ。問題は、その 62 件のうち、回答者がはっきり 0 と答えたのは 24 件だけだったことだ。残りの 38 件は空欄で、AI はそれをすべて 0 として数えていた。38 件の空欄のうち 28 件は、そもそもその製品を使ったことがなく、アンケートがこの質問を飛ばした人たちで、10 件はまだ回答していないだけだった。

空欄が表しているのはデータの状態であり、0 は意味のある観測だ。AI に表を集計させる前に、各列の空欄を三つに分ける。0 と確認済み、不明、対象外だ。割合を出すときは、どの分母を使ったのか、欠けた値がいくつあるのかもはっきりさせる。

計算は合っていて、答えている問いが違う

これは AI に計算し直させれば直る誤りではない。「空欄が何を意味するか」が書かれていない限り、AI も、表計算の数式も、分析用のプログラムも、それぞれ違う既定の扱いをしうる。

よく使われるデータ分析ツールである pandas の公式文書は、はっきり書いている。合計するとき、欠けた値や空のデータは 0 として扱われる。すべて空欄の列を合計すれば 0 になる。計算はまったく正しいのに、答えは見当違いの問いに答えている。

英国政府の分析部門による、表計算で統計を公開するための指針も注意している。空欄は、なぜデータがないのかを読み手に伝えない。読み手はそれを 0 だと思うかもしれないし、何か間違いがあったと思うかもしれない。

空欄には少なくとも三つの意味がある

0 と確認済み: 店が今週の返品は 0 件だと確認した、あるいは回答者が「使ったことがない」をはっきり選んだ。これは本当の観測で、分子にも、有効な回答の分母にも入れてよい。

不明: まだ回答がない、同期に失敗した、元の項目が欠けている。いまは値がないというだけで、黙って 0 にしてはいけないし、報告から黙って消してもいけない。少なくとも件数、出どころ、誰が確かめるのかを残す。

対象外: その製品を使ったことのない人は、そもそも「今月何回使ったか」に答えるべきではない。退職した社員を今月の在籍者の満足度に入れるべきでもない。対象外は小さな数字ではなく、そのデータが今回の問いに属さないということだ。

同じ記号を列をまたいで同じように扱ってはいけない。売上の列の 0、まだ入力されていない空欄、システムが出力した「N/A」、レイアウトのために入れた「-」は、どれも列と出どころに沿って読み解く必要がある。根拠になるのは、項目の説明、アンケートの分岐の規則、システムの文書、あるいはデータの責任者に直接聞くことだ。根拠が見つからなければ「不明」にとどめ、近くの行が「何らかに見える」からといって値を埋めない。ウェブの標準化団体 W3C が表形式データ向けにメタデータ(付加的な説明)の標準を定め、各列で空の値をどう読むかを書けるようにしているのも、まさにこの理由からだ。CSV ファイルにあるのは升目の中の文字だけで、プログラムが自分で正しく推測できるほどの意味は含まれていない。

広告

数字を出すときは、分母と欠けた値も一緒に出す

冒頭のアンケートに戻ろう。100 件のうち、62 人が回数をはっきり答え、そのうち 24 人は 0 だった。28 人は製品を使ったことがないので対象外。10 人はまだ回答していない。

「0 回の利用者は 24%」は 100 件すべてを分母にしている。「有効な回答者のうち 38.7% が今月使っていない」は 62 件の有効な回答だけを見ている。どちらも計算はできるが、答えている問いが違う。AI が最初に出した 62% は、対象外と不明を 0 として数えており、どちらの問いにも正しく答えていない。

だから人に渡せる AI の要約には、少なくとも次の数を並べるべきだ。元の行数、有効な観測数、0 と確認済みの数、不明の数、対象外の数、今回使った分母、そしてそれぞれの状態をどんな規則で判断したか。月ごとに比べるなら、規則が途中で変わっていないかも確かめる。

埋めると決めても、元の欄は残す

データの責任者が最終的に、ある種類の空欄は 0 として扱ってよいと決めたとしても、元のファイルに直接書き込まないこと。元の列は残し、変換後の列を別に加えて、規則、変更した人、時刻を記録する。そうすれば、「もともと何だったか」と「どの規則で何になったか」をいつでも見比べられる。

リスクの高いデータでは、さらに慎重になる。医療、信用、保険、採用、人事評価の記録の欠けた値は、個人の権利に響くことがある。汎用の AI に勝手に値を推測させてはいけないし、個人情報を含むファイルを丸ごと、承認されていないツールに上げてもいけない。まず個人を特定できない小さなサンプルで規則を確かめ、データと業務の責任者に分析の範囲を承認してもらう。

次に AI に表のまとめを頼むときは、いきなり割合を計算させず、まず欠けた値の棚卸しをさせてほしい。これは会社の数字に正式な出どころを決めるのと同じ考え方で、見落としやすい列の単位にまで縮めたものだ。AI に社内の数字を調べさせるとき、正確さは定義を保守する人がいるかで決まるも参考になる。できあがった表を誰かに渡すなら、分母と欠けた値の説明も添えてほしい。整ったAI要約でも、そのまま仕事を引き継げるとは限らないも参考になる。

AI 整理カード

AI に表計算ファイルを集計してもらいたいが、空欄を 0 として扱われないか心配だ。
判断方法はこの記事による:https://boosterminiclass.com/ja/posts/ai-spreadsheet-blank-cell-meaning/
記事の見方はこうだ。空欄は 0 ではない。集計の前に、各列の空欄を「0 と確認済み」「不明」「対象外」の三つに分ける。割合を出すときは、使った分母と欠けた値の数を示す。根拠がなければ不明として扱い、近くのデータから値を推測しない。

私が許可したこのファイルだけを読み取ってほしい。空欄を埋めたり、行を消したり、数式を変えたり、元のファイルを上書きしたりしないこと。最終的な割合や傾向の結論もまだ出さないこと。
1. シート、データの範囲、列名、欠けた値を表しうる空欄、0、N/A、ダッシュ、そのほかの特殊なコードを見分ける;
2. 列ごとに、データ型、総行数、空でない値の数、明確な 0 の数、各特殊コードとその数、空欄の数、見つかった項目の説明や分岐の規則を挙げる;
3. 欠けた値の候補を「0 と確認済み」「不明」「対象外」「意味は要確認」に分け、それが分子と分母をどう変えるかを説明する;
4. データの責任者に聞くべき問いを最大五つ挙げ、元のファイルを変えずに変換用の列を加える案を示す。
私が規則を確認するまで、ここで止まってほしい。
広告

Share

このミニクラスを共有

このミニクラスが仕事の詰まりをほどく助けになったら、AI の使い方を考えている人にも共有してください。

参考資料