ソートリーダー

AIガバナンスはCスイートの問題ではない。データベースの問題である。

mm
Unite.AI を Google の優先ソースに追加

企業内でのAI実験のペースは、以前より速くなっている。しかし、実験から本稼働への道は、依然として遅い。チームはパイロットプロジェクトを立ち上げ、モデルをテストし、数週間、あるいは数日で有望な結果を出している。しかし、システムを大規模に展開する際に、進捗はしばしば停滞する。セキュリティ上の懸念が浮き彫りになり、コンプライアンス要件が厳しくなり、ガバナンスの質問が増える。

MITのThe GenAI Divide: State of AI in Business 2025によると、95%の企業AIパイロットプロジェクトは、計測可能なビジネスインパクトを生み出せない。5%のみが本稼働に達し、実際の財務収益を生み出す。調査には300以上のAIデプロイメントと150以上のエグゼクティブインタビューが含まれており、その結論は、主な障害はモデル能力ではないと述べている。企業統合の欠陥である。多くの組織は、これをCスイートレベルのポリシーの問題として扱っている。我々は、AIガバナンスはシステムの課題であり、データ層から始まるべきであると主張する。

AIプロジェクトがパイロット段階で停滞する理由

多くのAIイニシアチブは、プロトタイプ化するために使用される環境が、企業展開の現実と根本的に異なっていることが原因で失敗する。開発者は、価値をできるだけ早く証明するために、柔軟なツール、緩いガバナンスのデータセット、セルフサービスインフラストラクチャを利用する。これは実験には理想的ですが、監査可能性、厳格なアクセス制御、規制コンプライアンス、運用耐久性を必要とする本稼働環境には翻訳されない。

結果として、ガバナンスは、プロトタイプが成功した後で初めて導入されることが多い。その時点で、ガバナンスは、制約ではなく、有効なレイヤーとなるべきである。しかし、チームはセキュリティモデルをリファクタリングし、データフローを再構築し、コンプライアンスの前提を再検討する必要がある。これは、最初から基盤となるべきものである。

これにより、AIシステムが制御された環境で示すことができるものと、企業が安全に、信頼性を持って展開できるものとの間で、ギャップが生じる。

同時に、モダンなAIスタックは、コントロールの代償として、スピードとアクセシビリティを優先するように進化してきた。開発者向けのプラットフォームはパイロットプロジェクトを容易に作成できるが、データがどこに存在するか、どのように使用されるか、誰がアクセスできるかを不明にすることがある。

これにより、運用上のリスクや規制上のリスクが生じる。データの意図しない公開、環境間のデータ境界の不明確さ、システム動作の監査可能性の不足などが、生産性のレビューやコンプライアンス評価で問題となる。企業の調査によると、データ品質とガバナンスの問題は、AIプロジェクトの失敗の主な原因であると報告されており、60〜70%のケースで言及されている。これに加えて、第三者インフラストラクチャやマネージドデータベースサービスへの依存度が増すと、データ所有権が断片化し、規制への整合性が複雑になることがある。多くの場合、組織は、ガバナンスがプラットフォームによって暗黙的に処理されていると仮定しているが、実際には責任はスタックの複数のレイヤーに分散している。

結果として、パラドックスが生じる。AI実験を加速するツールは、展開時に摩擦を生み出すものである。

データベースは真のガバナンスレイヤーである

この断絶を解決するには、ガバナンスが実際にどこで行われるかを再考する必要がある。

ガバナンスは、法令、コンプライアンス、またはエグゼクティブチームによって定義され、文書化およびレビュープロセスを通じて施行されるポリシ機能として扱われることが多い。しかし、これらのメカニズムだけでは不十分である。ガバナンスは、システムレベルで施行されるまで、有効にはならない。

実践では、この施行は、データが保存、読み取り、変換される場所で行われる。つまり、データベースとその周囲のデータインフラストラクチャが、AIスタックの中で最も重要なガバナンスレイヤーとなる。

モダンダータベースは、単なるデータの保管庫ではない。アクセス許可を定義し、データ居住要件を施行し、暗号化とキーコントロールを管理し、コンプライアンスとセキュリティ監視に必要な監査ログを生成する。また、AIシステムが企業データとやり取りする際の制御ポイントとしても機能する。

これは重要である。AIシステムは、依存するデータインフラストラクチャのガバナンスポストを継承する。データベースレイヤーが構造、制御、または可視性が欠如している場合、これらの弱点はAIシステムに直接伝播する。ダウンストリームのアプリケーションレベルのポリシーでは、不十分なデータ基盤を完全に補うことはできない。

これにより、より広範なアーキテクチャ的変化が必要となる。ガバナンスは、デプロイ後に追加されるのではなく、インフラストラクチャから始まるべきである。インフラストラクチャ第一のAIアプローチでは、ガバナンスは外部の制約ではなく、組み込みの特性となる。データアクセスは、制御されたインターフェイスを介して行われる。クエリとシステムの相互作用は、デフォルトでログに記録される。コンプライアンスルール、たとえばアクセス制限、保持ポリシー、居住要件は、システムレベルで施行されるのではなく、手動での監視または事後的な検証を通じて施行される。

これには、セキュアなクエリ仲介レイヤー、ポリシードリブンのアクセス制御、分散データ環境全体での集中的な可視性などのアーキテクチャパターンが必要である。これらのメカニズムにより、ガバナンスは定期的に施行されるのではなく、継続的に施行される。

プロアクティブなガバナンスとリアクティブなガバナンスの違いは基本的である。リアクティブなアプローチは、システムが構築され、デプロイされた後で問題を修正しようとする。一方、プロアクティブなアプローチは、問題が発生するのを最初から防ぐために、制御をシステムアーキテクチャに直接組み込む。

AI環境では、この区別は、システムが拡大するか、停滞するかを決定する。

エージェントが登場するとき

自律エージェントは、多くの組織が準備していない方法で、ガバナンスの式を変える。エージェントは単にデータを読み取るだけでなく、データを書き込み、システム全体でアクションをトリガし、人間の介入なしで行う。

これにより、完全に異なる障害モードが生じる。ガバナンスが不十分なクエリは、悪い答えを返す。ガバナンスが不十分なエージェントは、悪い答えに基づいて行動し、レコードを更新し、ダウンストリームのワークフローをトリガし、誰も間違いに気付く前に、決定をシステム全体に伝播させる。

これは、ガードレールがアプリケーションレイヤーに存在することができない理由である。エージェントは、複数のシステムを横断して動作し、常に抵抗の少ない経路を見つける。制御は、データが読み取られたり書き込まれたりするたびに、どのトリガーによって引き起こされたかに関係なく、データレイヤーで施行される必要がある。

ガートナーの予測によると、40%以上のエージェントAIプロジェクトが、ガバナンスと信頼性の問題により2027年末までに延期またはキャンセルされる。この数字は低いと感じられるが、それは、組織がガバナンスを原因として正しく特定していることを前提としている。実際には、障害の根本原因は、コストがかかるまで見えにくい。

実験から本稼働可能なAIへ

AIを実験から本稼働に移行させることに成功する組織は、開発環境と本稼働環境を早期に整合させることが多い。

実験システムを本稼働の制約から遠ざけるのではなく、開発と本稼働の両方の環境を、ガバナンス、セキュリティ、データアクセスの原則で設計する。これにより、モデルがプロトタイプから本稼働ワークロードに移行する際のフリクションが軽減される。

この整合性は、企業がまだ成熟した、生産レベルのAIインフラストラクチャを持っていないため、ますます重要になる。セキュアなデータアクセス、監視、可視性、コンプライアンスの施行におけるギャップが残っている。これらのギャップは、孤立していない。AIをパイロット環境からミッションクリティカルなワークフローに拡大する際に生じる、構造的な課題である。

プロトタイプと本稼働の別の断絶は、プロダクションアプリケーションとデータベースがオンプレミスまたは厳密に管理されたクラウドアカウントにホストされる必要があるのに対し、プロトタイプがクラウドベースのデータベースプラットフォームで開発された場合に発生する。

成熟した組織では、AIワークロードは、他の規制対象システムと同じ厳格さで扱われる。つまり、連続的なログ記録、厳格なアクセス制御、継続的な監視、チーム全体にわたる明確な責任構造が必要である。これには、データエンジニアリング、プラットフォームエンジニアリング、セキュリティ、コンプライアンス機能間の、初期からの緊密な連携も必要である。

このアプローチの利点は、リスクの軽減に止まらない。組織は、展開サイクルの高速化、生産性の失敗の減少、AIシステムへの内部の信頼性の向上も経験する。 この文脈では、AIの拡大は、モデルイノベーションについてではなく、インフラストラクチャの成熟度についてである。

ガバナンスはアーキテクチャ上の義務である

最終的に、AIガバナンスについての議論は、ポリシーからアーキテクチャへと移行する必要がある。

ガバナンスは、監視機能として扱われることが多いが、実際には、データがアクセスされ、使用される方法を定義するシステムを通じて施行される。データベースは、単なるストレージレイヤーではなく、セキュリティ、コンプライアンス、運用上の完全性を通じて、AIスタック全体の制御ポイントとなる。

AIが企業のワークフローに深く埋め込まれるにつれて、この制御ポイントの重要性は大きくなる。モデルと企業データの間のすべての相互作用は、明示的に設計されているかどうかに関係なく、ガバナンスされたイベントとなる。

データベースレイヤーから始まる、インフラストラクチャ第一のガバナンスを優先することで、企業はパイロットと本稼働の間のギャップを埋めることができる。そうすることで、AIは、孤立した実験から、組織全体に埋め込まれた、耐久性と拡張性のある機能に変化する。

フィリップ・メリックは、pgEdgeの共同創設者兼チーフ・プロダクト・オフィサーです。起業家、技術者、そしてデータ・インフラストラクチャやクラウド・プラットフォームに深い理解を持つ経験豊富なエグゼクティブです。webMethods、EDB、SparkPost、Fugue、pgEdgeの共同創設者またはCEOを務め、スタートアップからIPOまで、9〜10桁の3つのエグジットを経験しました。