エンタープライズAIは信頼できるデータに依存する

2025年、企業は生成AIに推定300億〜400億ドルを投資したが、MITのProject NANDAは300以上のエンタープライズ導入のうち 調査したは測定可能な財務リターンを生み出していた。

私はエンタープライズデータプログラムに25年以上携わってきた。生成AIが議論に上がるずっと前から、背後のデータを信頼できないと技術の信頼性が急速に失われることを見てきた。生成AIは、疑わしいデータを自信に満ちた回答に変えることができるため、リスクが高まる。

かつては「ゴミを入れればゴミが出る」と言ったが、今は「ゴミを入れれば災害が出る」と言える。データが怪しいときは、担当者が判断してデータ専門家に連絡できた。専門家は根本原因分析を行い、問題を特定し、修正を適用した。今日では、エージェントは遭遇したデータに対して自由に行動できる。知識豊富な人間の監視がなければ、その結果は業務の一部となり、意思決定に使用され、組織全体に拡大する可能性がある。

同じ問題はチャットボットでも顕在化する。ガバナンスを省くと、悪質または十分に理解されていないデータが権威あるように聞こえる回答に変わり、即座にかつ大規模に広がる可能性がある。

信頼こそが本当の導入ボトルネック

社内チャットボットが自信に満ちたが誤った回答をすると、相手は再び信頼しなくなるだろう。大規模組織では、AIは本来見つけてほしくないデータも探し出す。私はそれをベッドの下の汚れた靴下に例える: そのデータは目に見えなくても、AIはその暗いデータを見つけて利用する。

コンテキストはデータと共に伝わり、LLMが参照する基盤となる必要がある。AIモデルがデータを使用する前に、データの意味、出所、所有者、そしてそれを取り巻くビジネスルールやポリシーを人々が把握している必要がある。

リーダーはシステムがほとんどクラッシュしないためにこの点を見落としがちだ。AIは自信満々に間違えることがあり、たとえばピザに接着剤を提案するといった（古い例だが）ことがある。自信に満ちたが誤った回答をするチャットボットを考えると、従業員はその信頼を失う。その信頼を取り戻すには、最初に適切なコントロールを設定するよりもはるかに時間がかかる。

その信頼の低下はデータにも現れる。90%以上の企業の従業員は MITが調査した、公式パイロットが信頼を得られなかった後でも、個人用AIツールをサイドで使い続けている。承認されたツールが信頼を得られないと、従業員は別の方法で業務をこなす。

今年のAI研究の多くは同じ問題を指摘している: 組織はデータを信頼できるようにする作業を行う前にAIを導入しようとしている。 Gartnerは推定した、ほぼ3分の2の組織がAI向けの適切なデータ管理慣行を欠いているか、あるいはそれがあるかどうか確信が持てない。別の IDCの調査によると、信頼面でも同様のギャップが見られ、78％の組織がAIを完全に信頼していると答える一方で、実際にその信頼を裏付けるガバナンスと説明可能性の取り組みに投資しているのはわずか40％である。

自信と投資の不一致は、多くのAIイニシアチブが本番環境に到達する前に停滞したり、意図した価値と合致しない理由を説明している。

AIガバナンスが競争優位となる時代

私のキャリアの大半にわたり、データガバナンスはエンタープライズITの中でも最も魅力のない領域の一つだった。メタデータ、、所有権の定義、データのプロファイリング、ワークフロー管理は、まるで清掃作業のように感じられた。多くの人が、労力が得られる価値を上回ると考えて省略していた。

AIはそれを変えた。データブループリントの設計、業界が策定した用語集の作成、データポリシーの推奨と有効化など、ガバナンス機能として機能し始めている。データ系譜さえも、以前より迅速に推測・最適化できるようになり、管理されたデータパイプラインと可観測性の価値が実現しやすくなった。

規制もデータ透明性をより緊急の課題にしている。 EU AI Actは2026年8月2日に広範に適用され、特定システムやAI生成コンテンツに対する透明性規則を含む。この法律は、 ハイリスクシステムに対して別個の要件を定めており、ドキュメンテーションや出力を解釈するための情報を提供するが、一部のハイリスク規定は後のタイムラインで適用される。

企業にとって実務的な教訓は明快だ: 明確な系譜とガバナンスにより、使用されたデータ、出所、システムの運用方法を文書化しやすくなる。

米国の規制状況は未だ不透明だ。包括的な連邦AI法がないため、企業は州ごとの要件を乗り越えなければならず、ホワイトハウスは州が独自のAI規則を作成・施行する権限を制限しようとしている。最も包括的な州レベルの枠組みであるコロラド州のAI法は、すでに一度遅延・改訂され、その主要義務は2027年に先送りされた。多くの米国企業にとって、未知の期間を待つ誘惑がある。

私はそれが誤った本能だと主張したい。米国で最終的にどの規制モデルが成功しようとも、根本的な要件は消えない。データの出所を把握し、AIが使用する前に誰かが実際に検証したかどうかを確認することだ。この規律を今育むことで、企業は新たな規制に備え、将来有望なAIパイロットをビジネスが自信を持って活用できるツールに変えることができる。

上位5％を分けるもの

あるクライアントの事例をご紹介しよう。彼らの総勘定元帳チームは、帳簿に不一致が出るたびに300個もの別々のスプレッドシートをすべて確認しなければならなかった。300件だ。最終的に誰かがその混乱を単一のガバナンスされたデータ資産として再構築し、計算式、レポート、基礎データを一括でパッケージ化し、事前に検証した。次に問題が発生したとき、修正に要する労力は以前のごく一部に減った。そのプロセスだけで約750日分の労働が削減され、数百万ドル規模のコスト削減につながった。

改善は、適切なデータを容易に見つけられ、二度手間せずに利用できるほど信頼できるようにしたことから生まれた。協働と再利用がそれを可能にした。信頼できるデータ製品は企業標準に合わせて整合させ、時間とともに拡張・アップグレードでき、信頼度でスコア付けし、価値のために管理できる。このアプローチにより、個別の物理テーブルに結びつく何百、何千もの製品を作る必要が減少する。

強固なプログラムはその信頼性を可視化する。私が関わるデータマーケットプレイスでは、資産は品質、キュレーション、利用状況、所有権などの要素に基づき、ゴールド、シルバー、ブロンズに分類できる。ビジネスユーザーは利用前に資産の信頼性を確認できる。この可視性により、推測をやめ、既存データの再利用に前向きになる。

95％という数字は、多くの企業が生成AIの背後にあるデータを軽視してきたことへの警告だ。進展している組織は、データの出所、検証方法、業務適合性を明確に示している。長年データ管理が裏方作業とみなされてきたが、AIがようやくその価値を可視化している。