社内データをAIに読ませると、間違った数字がそのまま答えになる

「社内のデータをAIに読ませて、聞けばすぐ答えが返るようにしたい」という相談が増えています。AIが社内のシステムを順に読んで、集計して、答えの文章まで出す使い方です。聞いた内容からデータベースへの問い合わせをAIに組み立てさせる仕組みや、複数のシステムを順に使って処理を進めるAIエージェントと呼ばれる仕組みが、これを支えています。

このとき見落とされやすいのは、データが変わらないことです。読ませる前とあとで、社内に入っている値は同じです。変わるのは、そのデータを誰が見るかです。

これまでは、集計結果を担当者が見ていました。「この取引先の売上が先月の3倍になっている。入力ミスだろう」と気づいて、元データに戻って直す。この工程が、レポートとその先の判断のあいだに入っていました。AIに聞くようにすると、この工程は自動では残りません。残すかどうかが、設計で決めることになります。

本記事では、社内データをAIから読めるようにする前に決めておくことを4つ扱います。AIにデータを渡してよいかという情報漏洩の観点はAIにデータを貼り付けて分析してよいのか、社内文書を検索させる場合の整備は生成AI・RAG向けデータ整備で扱っており、本記事では触れません。

AIは「この数字はおかしい」と言わない

AIは与えられたデータから答えを作ります。元の値が間違っていても、計算そのものは正しく実行されます。売上が3倍になっている行があれば、その3倍を含んだ合計が返ります。

担当者がおかしいと気づけたのは、業務を知っているからです。「この取引先は毎月このくらい」「この品目は季節で動く」という感覚と照らして、外れているものに目が留まる。AIが持っているのは、渡されたデータだけです。

さらに、答えには説明が付いてきます。文章として整った形で返るため、間違った数字でも、間違っているようには見えません。グラフを見て違和感を覚えるより、文章で「先月より増えています」と言われるほうが、受け取る側は疑いにくくなります。

つまり、AIに読ませて失われるのは計算の速さではなく、気づく機会です。だから整えるべき箇所も、計算の手前ではなく、データの意味のほうにあります。以下の4つは、いずれも「人が頭の中で補っていた前提」を、データ側に書き出す作業です。

あわせて知っておきたいのは、答えが合わない原因がデータだけではないことです。AIは集計のしかたも自分で決めます。どのテーブルを使うか、どう結合するか、どの期間を対象にするか、金額は税込か税抜か。ここを取り違えても、答えは同じように整った文章で返ります。本記事が扱うのはデータの側ですが、数字が合わないときは、AIがどの条件で集計したかも確認する対象になります。

決めること①　どのデータを読ませて、どれを読ませないか

最初に決めるのは範囲です。社内のデータベースをまとめて読めるようにするのではなく、どのテーブルのどの列まで見せるかを決めます。

読ませないものには2種類あります。ひとつは、見せてはいけないもの。給与、人事評価、健康に関する情報、与信の判断材料など、閲覧できる人が限られているデータです。元のシステムで画面ごとに権限を分けていても、AI経由で読める経路を作ると、その区分が効かなくなることがあります。誰が何を見られるかを誰が決めるかはデータオーナー制度の作り方で扱っています。

あわせて、AIがデータベースに接続するときのアカウントを確認します。管理者権限の共通アカウントで接続していると、本来その人には見えないはずのデータまで答えに出ます。利用者ごとの権限がAI経由でも効いているか、効かないのであれば、読ませる範囲をアカウントの側で絞れているかを見ておきます。

もうひとつは、見せても害はないが答えを狂わせるものです。検証用に作ったテーブル、移行のときにコピーした古いデータ、使われなくなって放置された項目。人は「これは今は使っていないやつだ」と業務の経験から分かって無視します。AIもテーブル名や更新日時から推測はしますが、そのデータが業務でどう使われているかが書かれていなければ、古いほうを読んでしまうことがあります。名前の似たテーブルが2つあれば、どちらを読んだかで答えが変わります。

範囲を決めたら、残したテーブルの一覧と、それぞれが何のデータかを書いておきます。説明がない列は、使い道が推測で決まります。どこに何があるかを書き出す進め方はツールを買わずに作るデータカタログで扱っています。

決めること②　同じ項目が複数の場所にあるとき、どこを見るか

取引先の住所が、販売管理システムと請求システムの両方に入っている。社員の所属が、人事システムとグループウェアの両方にある。こうした状態は珍しくありません。

人が調べるときは、用途で選びます。請求書を出すなら請求システム、営業の訪問先なら販売管理システム。どちらが新しいかを見て、おかしければ担当者に聞く。この選択を、気づかないうちに毎回しています。

AIに聞くときは、この選択を先に済ませておく必要があります。どちらも読める状態にしたままだと、質問の仕方によって答えが変わります。同じ「取引先の数」を聞き方を変えて2回聞き、2つの数字が返ってくることが起きます。

決め方は、項目ごとに「ここを見る」を1つ決めることです。このとき、先に項目の定義を分けます。「住所」はひとつではありません。請求書を送る住所と、営業が訪ねる住所は別の項目で、正しい管理元も別になります。分けたうえで、それぞれどのシステムを正式な記録として扱うかを決めます。判断の材料は更新頻度だけではありません。誰がどの業務のために管理しているか、どちらが社内で正式な記録として通っているかを見ます。更新が多いほうが実態に近いとは限らず、連携でコピーされただけの値が頻繁に書き換わっていることもあります。

なお、顧客マスタに同じ会社が複数レコードで残っている場合は、どこを見るかの前に、どれが同じ会社かを決める必要があります。これはBIの顧客別売上が合わない理由で扱っています。

決めること③　空欄が何を意味するか

空欄は、データの中でもっとも誤解されやすい値です。ひとつの列に空欄が並んでいても、意味は同じではありません。

• まだ入力していない——入力の工程が終わっていないだけで、値そのものは存在する
• そもそも該当しない——法人取引の行に個人向けの項目があるなど、埋まらないのが正しい
• 実績がゼロ——0と書く代わりに空けてある

この3つを区別しないまま平均を出すと、数字が動きます。該当しない行を分母に入れるか外すかで結果が変わり、未入力をゼロとして扱うと、本当は値が分からない行まで0として計算されるため、平均も変わります。人が集計するときは「この列は法人だけだから」という前提を頭の中で足していますが、AIは足しません。

対処は、空欄をなくすことではありません。実績がゼロなら0を入れる、未入力は空欄のまま残す、該当しない行は対象外だと分かる状態にする。この書き分けを決めるほうが先です。ただし「対象外」は、金額や数量のような数値の列に文字で書くことはできません。この場合は、対象かどうかを別の区分項目で持ち、値の列は空欄のまま残します。全部を埋めようとすると、該当しない欄に0が入って、別の間違いが生まれます。空欄と欠損の扱いはデータの完全性でも扱っています。

すでに空欄が混ざっているデータについては、列ごとに「この列の空欄は何を意味するか」を書き出すだけでも効果があります。遡って直せない場合でも、集計の側で分母の扱いを合わせられるようになります。

決めること④　答えをそのまま使ってよい質問はどれか

4つめは、出てきた答えの扱いです。すべてを人が検算するなら、AIに聞く意味がありません。一方で、全部をそのまま使うのも危険です。質問ごとに分けるしかありません。

分ける基準は2つあります。間違っていたときに気づけるか。そして、間違っていたときの影響が大きいか。

「先月の売上合計」は、普段の規模を知っていれば桁が違えば気づきます。「解約しそうな顧客の一覧」は、出てきた一覧を見ただけでは合っているかどうか判断できません。後者は、答えを結論として使わず、確認する相手のリストとして使います。

影響が大きいのは、社外に出る数字と、お金が動く判断です。取引先に提示する実績、在庫の発注量、与信の判断材料。ここは答えを根拠に動かず、元のデータに戻って確かめる工程を残します。

この線は、一度決めたら動かさないものではありません。使ってみると、思っていたより合っている質問と、毎回直している質問に分かれてきます。月に一度見直す場があると続きます。進め方はBIのレポートを直していく月30分の決め方が近い内容です。

まず1つの質問で試す

4つを全部決めてから始めることはできません。どの質問が使えるかは、やってみないと分かりません。

始め方は、業務で実際に使っている質問を1つ選ぶことです。毎月作っているレポートのうち、作るのに時間がかかっているものがよい候補になります。すでに人が作っている数字があるため、合っているかどうかを突き合わせて判定できます。

その1つについて、上の4つを決めます。読ませるテーブルを限る。項目ごとに見る場所を決める。空欄の意味を書き出す。答えの扱いを決める。そのうえで、これまで人が作っていた数字と並べます。

合わなければ、まず②と③を確認します。想定と違うテーブルを読んでいるか、空欄の解釈が違っているかです。それでも合わないときは、AIがどう集計したかを見ます。対象の期間、集計の単位、テーブルの結合のしかた、金額が税込か税抜か。ここで原因を1つずつ特定しておくと、2つめ以降の質問では同じ作業が要らなくなります。

合うようになったら、その質問だけを運用に乗せます。ほかの質問は、同じ手順で1つずつ増やします。最初から全社のデータを対象にすると、合わなかったときに原因を絞れません。何から確認するかの考え方はAI・BIツール導入前のデータ整備でも扱っています。

まとめ

社内データをAIから読めるようにしても、データそのものは変わりません。変わるのは、これまで担当者が集計結果を見て「おかしい」と気づいていた工程が、自動では残らなくなることです。だから整えるのは計算の手前ではなく、データの意味のほうになります。

決めておくことは4つです。どのテーブルのどの列を読ませるか。同じ項目が複数の場所にあるとき、どこを見るか。空欄が何を意味するか。そして、答えをそのまま使ってよい質問はどれか。全部を先に整えるのではなく、いま人が作っているレポート1つから始めて、既存の数字と合うまで原因を潰していくほうが早く進みます。