AIの能力からAIの管理へのシフト

フロンティアAIプロバイダーをめぐる高プロファイルの事件は、企業に、以前は真剣に考えることのなかった質問を提起させている。つまり、企業の運用の中心にあるテクノロジーが、完全に管理下にない場合に何が起こるのかということである。

最初に、アンソロピックのシャットダウンが米国政府によって90分の通知で命じられた。次に、グロックビルのプライバシー醜聞が発生した。最近、オープンAIは、ハギングフェイスへのエージェントによる自律的な侵害を認めた。これにより、AIシステムがより高度になるにつれて、ガバナンスに関する新たな疑問が生じた。

個別の事件はそれぞれ重大である。まとめると、もっと大きなものを示唆している。AIは、企業がほとんど影響を与えることができない政治システム、商業関係、規制環境の中に位置することを思い出させる。

AIリスクに関する議論は、当然、プライバシー、コンプライアンス、データ居住地に焦点を当てていた。ただし、これらの問題はまだ重要であるが、全体の物語ではそれらだけではない。現在のより大きな質問は、依存性である。

主権とは何か — そして何ではないか

私は、過去1年間で主権に関する議論が変化していることに気づいた。顧客は通常、データがどこに保存されるかを尋ねていた。今日では、AIが実行されるシステムを誰が実際に管理しているか、それらへのアクセスを突然失った場合に何が起こるかを尋ねる可能性が高い。これは、地理を超えたものであるため、より難しい質問である。

主権AIの核心は、所有権についてである。依存関係を導入せずにAIを展開できること、つまり、どこでモデルが最初に開発されたかに関係なく、回復力、継続性、または長期的な柔軟性を脅かすことがない。説明する1つの方法は、AIエージェントを従業員に例えることである。従業員は、以前は人間が行っていたタスクを担当する、デジタルなワークフォースのメンバーとなっている。組織が単一のAIプロバイダーからそのワークフォースをレンタルする場合、運用上の重要な部分もアウトソーシングすることになる。

これは、すべての組織がAIスタックのすべての部分を所有する必要があることを意味しない。電力と物理インフラストラクチャが最下位にあり、次にコンピューティング、次にモデル自体、そして最後に上位のアプリケーションが実行される。各層は、異なる組織によって所有される可能性がある。スペクトルの一端では、データは国内に残り、他のすべては別の場所で管理される。さらに進むと、モデルはローカルで実行されるが、インフラストラクチャは誰かが操作する。さらに進むと、組織はモデルを自分で実行する。最も深い端では、インフラストラクチャも管理する。組織がこのスペクトル上でどこに位置するかは、失うことができないものに依存する。

政府が機密ワークロードを実行する場合、ほとんどの商業ビジネスよりも多くの管理が必要である。病院は、データセンターを所有する必要はないが、患者のケアをサポートするシステムが、遠隔地の第三者の決定によって突然利用できなくなったりしないことを保証する必要がある。

主権は検証可能である必要がある

組織が主権AIについて話し合うにつれて、真正な主権と巧妙なマーケティングを区別することが重要となる。すべてのプロバイダーが、スタックのどの層を実際に管理しているかについて透明性を持っているわけではなく、十分な数のベンダーが製品を主権であると説明し始めると、持続可能性の主張が他の業界で失われたのと同様に、その言葉はすぐに価値を失う可能性がある。

そこで、「主権ウォッシング」の概念が生まれる。ソリューションは、契約が国内で結ばれ、サポートチームが国内にあり、データが国境を越えないため、ローカルで管理されていると説明される。しかし、その下にあるインフラストラクチャは、依然として外国プロバイダーによって運営されている。英国企業は、英国サプライヤーから主権AIサービスを購入し、それでも依存するシステムが最終的に米国のインフラストラクチャ上に配置されていることを発見する可能性がある。

これは、自動的に間違った選択を意味するわけではない。多くの組織にとって、これはコスト、能力、管理のバランスとして正しい選択であるかもしれない。しかし、これは意識的な決定であるべきである。

レンタルと所有の課題

米国のフロンティアAIプロバイダーがデフォルトになったのは、理解できる。彼らは、最も高度なモデルを提供し、インフラストラクチャに多く投資し、市場の他の部分よりも一貫して迅速に進化してきた。中国のAIに関する地政学的懸念と組み合わせると、企業が大規模にAIを展開しようとする場合に、自然な選択肢となった。

その勢いは、初期の採用者を超えて広がっている。規制された業界では、新しいテクノロジーが通常より慎重に検討されるが、採用は加速している。 金融サービス企業の75% がAIを積極的に使用している。同様に、 79%の法務専門家 もAIを使用しており、 65%の臨床医 は、組織が提供するAIツールの使用が過去1年で増加したと報告している。多くの組織にとって、米国のプロバイダーを選択することは、商業的に合理的な選択であった。

AIが日常業務に深く浸透するにつれて、議論はより繊細なものになっている。コストは1つの要因である。トークン価格は低下し続けているが、企業のAI支出は、価格低下を上回る使用量の増加に伴い、増加し続けている。 93%の組織 はすでにAI予算を上回っている。回復力も別の要因である。外部プロバイダーが停止したり、商業条件を変更したり、政府の介入を受けたりした場合、重要なワークロードを実行している組織は、結果に対してほとんど管理権を持たない。

AIスタックのより多くの部分を所有することで、両方の式が変化する。使用量が増えてもコストはより予測可能になり、組織はシステムの動作についてより多くの可視性を得て、状況が変化したときに何が起こるかについてより多くの管理権を得る。

良いエグジット戦略には、正しいベンダーパートナーシップが必要

主権は、組織が一晩で切り替えることができるものではない。規制されたビジネスでは、AIワークロードを移動するには、通常、3～4年かかり、技術を移動するのに費やされる時間はほとんどない。ほとんどの時間は、ガバナンス、調達、重要なプロセスを中断せずに移動するために必要な運用作業に費やされる。

したがって、計画は、誰かがプロバイダーを離れる必要がある前に行われる必要がある。2026年のロードマップに主権AIを組み込んでいる企業は72%あるが、詳細な戦略、予算、または移行計画を持っているのは3分の1程度である。依存関係を減らす欲求はあるが、実際に移行することの意味を十分に理解している企業はあまりない。

これは、最も重要なワークロードを理解することから始まる。実際の移行コストを把握し、移行計画が必要になる前にテストすることも含まれる。プロセスは、ベンダーの評価方法も変える。通常、3つの質問で必要な情報のほとんどがわかる。顧客が選択した場合に、主権の主張が独立して検証できるか。検証は、契約に記載されている層のみか、スタックのすべての層にわたるか。プロバイダーが顧客のデータにアクセスできるか。最終的な質問に「はい」と答える場合は、提供されているのは保証ではなくポリシーである。