週一早上,業務主管在聊天視窗問 AI:「上個月新客戶有幾個?」AI 很快回了一個數字,附上一句合理的說明。會議上,財務部門報的數字卻少了兩成。追查之後才發現,AI 查的是業務系統裡的「新建帳號」,財務算的是「第一次付款」;兩張表都叫「客戶」,誰也沒有錯,只是沒有人規定這個問題該用哪一張。

讓同事直接用自然語言問 AI 公司數字,是很多團隊接上資料後最期待的功能。但 AI 回答得很快、很流暢,不代表數字可以直接拿去開會。決定答案準不準的,往往不是模型本身,而是有沒有人事先指定資料來源、寫好指標定義,並持續維護它們。

同一個模型,21% 和 95% 的差別

Anthropic 在 2026 年 6 月公開了自己的內部案例。他們讓 Claude 處理公司內部的商業分析問題,目前約 95% 的分析查詢由 Claude 自動完成,整體正確率約 95%。

但這個數字有前提。在還沒整理好背景資料時,同一個 Claude 在他們的內部評估裡正確率不超過 21%。拉高到 95% 的,是一組被他們稱為 skills 的操作說明:告訴 AI 每類問題該先查哪個來源、照什麼步驟分析。他們也要求 AI 優先查詢語意層,只有語意層涵蓋不到的問題,才自己寫查詢。語意層是集中管理指標算法的資料介面,讓所有工具算出同一套數字。報導這個案例的 InfoQ 也引用了 Anthropic 的結論:成果主要來自資料治理、語意定義與營運紀律,模型進步是次要的。

定義要由人寫,而且會過期

這個案例裡有兩個細節,比 95% 這個數字更值得注意。

第一,指標定義由人負責。 Anthropic 試過讓 AI 自動產生指標定義,結果在評估中反而變差。「活躍使用者」「流失」「成交」該怎麼算,是公司的決定,不是 AI 能推導出來的事。

第二,定義會過期。 他們發現,上線時約 95% 的正確率,在一個月沒有維護之後掉到約 65%。表格改了、欄位換了、業務規則調整了,原本正確的說明就變成誤導。所以他們把維護這些說明當成一項正式的工程工作,而不是一次性的設定。

這兩點合起來,意思是:讓 AI 查數字,等於多了一份需要有人負責的文件。沒有人負責,準確度就會在沒人注意的時候往下掉。

廣告

開放之前,先為一個問題指定三件事

不必一開始就建一套資料平台。可以從團隊最常被問的一個數字問題開始,替它指定三件事:

  • 正式來源。 這個問題要查哪一張表、哪一份報表或哪個系統。開頭的例子裡,「新客戶」要明確寫成「第一次付款的客戶,來自帳單系統」。
  • 算法與排除條件。 時間範圍怎麼算、測試帳號要不要排除、退款要不要扣掉。不同部門的算法不一致時,先由負責這個指標的人決定用哪一種。
  • 維護的人。 誰負責在表格或規則改變時更新這份定義,多久檢查一次。

做好之後,要求 AI 每次回答都附上它查了哪個來源、用了哪些條件、排除了什麼。附不出來的答案,只能當草稿。

看起來合理的錯誤,仍然抓不完

即使來源和定義都整理好了,有一類錯誤仍然很難抓:答案錯了,但看起來完全合理。Anthropic 自己也承認,這種「安靜的錯誤」他們還沒有完善的解法;目前的做法是在每個答案附上來源說明、要給主管的數字一律由人簽核,並每天拿幾份公認正確的報表對照。他們也試過讓另一個 AI 專門挑答案的毛病,正確率在評估中多了約 6%,代價是 token 用量增加 32%、回應時間拉長 72%。要不要付這個代價,取決於數字錯了的後果有多大。

所以,會影響預算、績效、價格或對客戶承諾的數字,即使 AI 查得出來,也要保留人工確認。AI 能把找資料、整理問題的時間縮短很多,但哪一個數字可以拿來做決策,仍要由公司自己決定。

先挑一個最常被問、也最常吵架的數字,替它寫下正式來源、算法和維護人。這件事做完,再讓 AI 回答它。如果擔心 AI 查詢的用量和費用,可以搭配〈AI 帳單要算每件被採用的成果花多少,不是每百萬 token 多少錢〉一起規劃。資料裡如果常有空白欄位,AI 怎麼解讀它們也會影響數字,參考〈別讓 AI 把資料空白算成 0〉。

AI 整理卡

請 AI 幫你檢查一個數字問題能不能開放自助查詢 這段提示詞會先問清楚問題的用途與現況,再檢查來源、算法、維護人三件事是否齊全,最後判斷能不能讓 AI 直接回答。

我想讓同事直接問 AI 一個公司數字問題,但想先確認它準備好了沒有。
判斷方法來自這篇文章:https://boosterminiclass.com/posts/ai-analytics-source-of-truth-checklist/
文章的看法是:AI 查數字準不準,取決於有沒有人指定正式資料來源、寫好指標算法,並持續維護。Anthropic 的案例裡,同一個模型在整理前後的正確率從不到 21% 到超過 95%,一個月沒維護又掉到約 65%。

請先問我 3 個問題:
1. 是哪一個數字問題,答案會用在哪個決策;
2. 目前公司有幾個地方可以查到這個數字,各自的算法是否一致;
3. 有沒有人負責這個指標的定義,表格或規則改變時誰會知道。

根據我的回答,請輸出:
- 來源、算法與排除條件、維護人三件事的現況:已確定/待確認;
- 一行判斷:可以開放自助查詢/只能測試且答案要人工複查/先維持人工回答;
- AI 回答這個問題時,每次必須附上的說明(來源、條件、排除項目);
- 今天可以完成的一個補強動作。
資訊不足時先問我,不要自己推測算法或計算數字。

這張卡只幫你找出缺少的東西,正式數字仍要由負責這個指標的人確認。

廣告

Share

分享這篇微課

如果這篇剛好解開一個工作卡點,可以分享給也在判斷 AI 怎麼用的人。

參考來源