Sue Laine, チーフテクノロジスト、Quest Software Sue Laine チーフテクノロジスト、Quest Software

エンタープライズAIは信頼できるデータに依存する

2025年、企業は生成AIに約300億〜400億ドルを投資したが、MITのProject NANDAは300以上のエンタープライズ導入のうちわずか5％しか測定可能な財務的リターンを生み出していないことを発見した。 調査した。私はエンタープライズデータプログラムに25年以上携わってきた。生成AIが議論に上がるはるか以前に、データを信頼できないと技術の信用がすぐに失われることを目の当たりにした。生成AIは、疑わしいデータを自信に満ちた回答に変えることができるため、リスクが高まる。かつては『ゴミを入れればゴミが出る』と言ったが、今は『ゴミを入れれば災害が起きる』と言える。データが怪しいときは、担当者が判断してデータスペシャリストに連絡できた。スペシャリストは根本原因分析を行い、問題を特定し、修正を適用した。現在では、エージェントは遭遇したデータに対して即座に行動できる。熟練した人的監視がなければ、その結果は業務の一部となり、意思決定に使用され、組織全体に拡大する可能性がある。同じ問題がチャットボットでも表面化することがある。ガバナンスを省くと、悪質または十分に理解されていないデータが権威あるように聞こえる回答に変わり、即座にかつ大規模に提供されてしまう。信頼こそが実際の導入ボトルネックである社内チャットボットが自信満々だが誤った回答を提供すると、利用者は再び信頼しなくなるだろう。大規模組織では、AIは本来見つけてほしくないデータまで探し出す。これをベッド下の汚れた靴下に例えると、データは目に見えなくても、AIはその暗いデータを見つけ出して利用してしまう。コンテキストはデータと共に伝搬し、LLM が参照する基盤となる必要がある。AIモデルがデータを使用する前に、その意味、出所、所有者、そして関連するビジネスルールやポリシーを人々が把握しておく必要がある。リーダーはシステムがほとんどクラッシュしないためこの点を見落としがちだ。AIは自信満々に誤りを出すことがあり、例えばピザに合う接着剤を提案するといった（古典的な）例がある。自信あるが誤った回答をするチャットボットを考えると、従業員の信頼は失われ、信頼を取り戻すには、最初に適切なコントロールを設定するよりもはるかに時間がかかる。その信頼の低下はデータにも現れる。90%以上の企業の従業員は、 MITが調査したところ、公式パイロットが信頼を得られなかった後でも、個人用AIツールを併用し続けている。承認されたツールが信頼を得ていない場合、従業員は別の方法で業務を遂行しようとする。今年のAI研究の多くは同じ問題を指摘している：組織はデータを信頼できるようにする作業を行う前にAIを導入しようとしている。 Gartnerは推定した、組織の約3分の2がAI向けの適切なデータ管理慣行を欠いているか、あるいはそれを持っているか不明である。別の IDCの調査では、信頼性の面でも同様のギャップが見られ、78％の組織がAIを完全に信頼していると答える一方で、実際にガバナンスと説明可能性の取り組みに投資しているのはわずか40％にとどまっている。自信と投資の不一致は、多くのAIイニシアチブが本番に到達する前に停滞したり、期待された価値と合致しない原因を説明するのに役立つ。AIガバナンスが競争優位になる時代へ私のキャリアの大半において、データガバナンスはエンタープライズITの中でも最も魅力のない領域の一つだった。メタデータのカタログ化、所有権の定義、データのプロファイリング、ワークフロー管理は清掃作業のように感じられた。多くの人が、投入した労力に見合う価値がないと考えて省略していた。AIはそれを変えた。データブループリントの設計、業界別にキュレーションされた用語集の作成、データポリシーの推奨・有効化といった領域でガバナンス機能となりつつある。データ系譜さえも、以前より速く推測・簡素化できるようになり、管理されたデータパイプラインと可観測性の価値が実感しやすくなった。規制もデータ透明性をより緊急の課題にしている。 EU AI Actは2026年8月2日に広範に適用され、特定システムやAI生成コンテンツに対する透明性規則を含む。この法は ハイリスクシステムに対しても別個の要件を設け、文書化や出力解釈を支援する情報を提供するが、一部のハイリスク規定は後のタイムラインに従う。企業にとって実務的な教訓は明快だ：明確な系譜とガバナンスにより、使用されたデータ、出所、システムの運用方法を文書化しやすくなる。米国の規制状況は未だ不透明だ。包括的な連邦AI法がないため、企業は州ごとの要件を乗り越えなければならず、ホワイトハウスは州が独自のAI規則を策定・施行する能力を制限しようとしている。最も包括的な州レベルの枠組みであるコロラド州のAI法は、すでに一度遅延・改訂され、その主要義務は2027年へと先送りされた。多くの米国企業にとって、不確実性が解消されるのを待つ誘惑がある。私はそれが誤った本能だと主張したい。米国で最終的にどの規制モデルが採用されようとも、根底にある要件は消えない。データの出所を把握し、AIが使用する前に誰が実際に検証したかを知ることだ。この規律を今育むことで、企業は新たな規制に備え、将来有望なAIパイロットをビジネスが自信を持って活用できるツールへと転換できる。上位5％を分けるものある顧客の例を紹介しよう。総勘定元帳チームは、帳簿に不一致が生じるたびに300個もの個別スプレッドシートをひとつひとつ確認しなければならなかった。300本だ。最終的に、計算式、レポート、基礎データを一括し、事前に検証された単一のガバナンスされたデータ資産へと再構築された。次に問題が発生した際の修正作業は、以前のごく一部の労力で済んだ。そのプロセスだけで約750日分の労働時間が削減され、数百万ドル規模のコスト削減につながった。改善は、適切なデータを容易に見つけられ、二度手間なく利用できるほど信頼性を高めたことから生まれた。協働と再利用がそれを可能にした。信頼できるデータ製品は企業標準に合わせて整合させ、時間とともに拡張・アップグレードでき、信頼度で評価され、価値のために管理できる。このアプローチにより、個々の物理データベーステーブルに結びつく何百、何千もの製品を作成する必要が減少する。強固なプログラムはその信頼性を可視化する。私が関わるデータマーケットプレイスでは、資産は品質、キュレーション、利用状況、所有権などの要素に基づき、ゴールド、シルバー、ブロンズに分類できる。ビジネスユーザーは利用前に資産の信頼性を確認できる。この可視性により、推測をやめ、既存データの再利用に前向きになる。95％という数字は、多くの企業が生成AIの背後にあるデータを軽視してきたことへの警告である。進展している組織は、データの出所、検証方法、業務適合性を明確に示している。長年データ管理が裏方作業とみなされてきたが、AIがようやくその価値を可視化している。