Jeff McMillan, 創設者兼CEO、McMillanAI Jeff McMillan 創設者兼CEO、McMillanAI

AIガバナンス：多くの企業にとっての問題、少数の企業にとっての優位性

企業のAIは、誰もが説明するよりも早くリスクを蓄積しています。AIエージェントは、顧客データ、生産コード、および重要なビジネス上の決定に触れ始めていますが、ほとんどの組織では、非常に異なる時代のテクノロジー用に設計されたコントロールによって管理されています。同時に、企業が頼ることができる外部の支援は薄れてきています。主要なAI研究所は、自主的な安全性への取り組みを縮小しています、規制は依然として管轄区域によって断片化しています。信頼の負担は、最終的に悪い結果が表面化したときに否定的な結果を被ることになる企業に課せられます。私は、ほぼすべての業界の企業と戦略的なAIの仕事をしています。毎日、CEOや取締役と話をしています。私が見る一貫したパターンは次のとおりです。展開は加速する一方で、コントロールのインフラストラクチャは単純に追いついていないのです。このパターンは、ある企業の失敗というよりは構造的なものであると考えます。予測をします。CEOが、重大なミスによって事業に数百万ドルの損失をもたらしたことを説明しなければならないときが近いと考えています。私は、それが言い訳ではないと丁寧に示唆します。良いニュースは、幸運にも、ガバナンスを違う方法で扱う少数の企業を見ていることです。私は、信頼を構築することで、時間の経過とともに優位性を築いていると考えています。一方、待っている企業は時代遅れになるリスクがあります。少数の企業が何を見ているかを理解するには、現在の軌道がどこに導くかを理解することから始めます。問題に向かっている現在の展開はまだ小さすぎて、人間の監視がリスクを吸収できます。デロイトの最新の企業におけるAIの状況に関する調査によると、調査対象の組織の4分の1のみが、少なくとも40%のAI実験を本稼働に移行しました。ほとんどの企業はまだ初期段階にあり、人々が毎回の出力を追跡する狭いユースケースで数個のエージェントを実行しています。軌道が重要です。展開が2つのエージェントから20、200、2000以上に拡大するにつれて、複雑性が増します。各新しいエージェントは、独自の動作と、接触するすべてのシステムおよび共同作業する他のすべてのエージェントとの相互作用をもたらします。2つのエージェントでは、信頼は簡単です。チームを知っており、自分で出力を確認しています。20では、信頼はプロセスになり、定義された所有者、テスト、およびエスカレーション パスが必要になります。まだ機能しますが、維持するのが難しくなります。200では、非公式のレビューは劇的なものになります。リーダーシップ チームがそのような多くのアクティビティを目で確認することはできません。2000では、人間のループはほぼ役に立たないため、エージェント、データ、およびビジネス プロセス間の相互作用が、手動の監視ではカバーできないウェブを形成します。その規模では、信頼も規模化され、会社の技術アーキテクチャに組み込まれる必要があります。待っているコスト信頼のインフラストラクチャが欠如していることは、期待されるリターンが見込めない理由の1つです。PwCの最新のグローバルCEO調査によると、CEOの56%が、AIは過去1年間に収益の増加やコストの削減につながらなかったと述べました。私の経験では、報告されているリターンは、基礎となる経済を調べると、より説得力のないものになります。ほとんどの企業は、節約された時間をROIと見なします。時間の節約は、組織がその能力をより貴重なものに変換するときにのみ、財務上のリターンになります。より大きな出力、より優れた品質、回避されたコスト、より速い成長などです。その変換には信頼が必要です。組織は、システムが下位の仕事を引き継ぐときに、システムを信頼するときにのみ、人間の判断をより貴重な仕事に移すことができます。信頼がなければ、企業は技術的負債を蓄積し、時間の経過とともに生産性に大きな影響を与えます。最悪のシナリオです。支出が増加する一方で、見せるものはほとんどありません。信頼は、リターンが蓄積される基盤です。エレベーターの問題信頼と採用の関連性は新しいものではありません。信頼できる参考点を得るために、20世紀半ばに戻ることができます。運転手のいないエレベーターは、誰もが乗る前に数十年前に存在しました。テクノロジーは機能しましたが、乗客は車に乗り込み、運転手がいないことを確認して、降りてしまいました。何が変わったのかというと、エレベーターではなく、エレベーター周辺の安全性のコントロールでした。1945年の運転手のストライキにより、ニューヨーク中のオフィス ビルが閉鎖された後、業界はマシン自体に信頼を組み込みました。緊急停止ボタン、電話線、抵抗に当たったときに再開するドア、および何をするかを説明する録音ボイス。1世代以内に、人間のコントロールのないエレベーターに乗ることは、人間がボタンを操作しているエレベーターに乗るよりも古い時代のもののように感じられるようになりました。人間のループを除去するための障壁は、能力ではありませんでした。信頼であり、業界はシステムに可視化可能な検証可能なコントロールを構築し、それらをすべての乗客が見ることができる場所に配置することでそれを解決しました。企業のAIは、乗り込み、降りる段階にあります。リーダーシップ チームは、人間のコントロールのないエージェントを操作し、ためらい、ためらいは合理的です。ほとんどの組織はまだ、人間のループを除去するための同等のコントロールを構築していません。システムにこれらのコントロールを組み込む企業は、人間、顧客、規制当局が乗り込み、乗り続けるでしょう。ベンダーはこれを部分的にしか担うことができない多くのリーダーは、AIベンダーが信頼の負担を担うことを期待しています。ベンダーは、モデル レベルのセーフガードとセキュリティ コントロールを提供できます。優れたベンダーはそうしています。特定の展開があなたのデータ、規制上の義務、顧客、およびリスク許容度に適しているかどうかを決定するのは、あなたの仕事です。ベンダーには、その決定を下すためのコンテキストがありません。また、悪い結果があなたにどれだけのコストをもたらすかを価格設定する方法もありません。ベンダーの安全性への取り組みは、彼らのモデルをカバーしますが、あなたの使用をカバーするものではありません。また、恒久的なものではありません。過去1年間で明らかになったように、その取り組みは変更または撤回される可能性があります。規制された業界は、第三者モデルについてこの問題を長前に解決しました。着陸した標準は、正しいものです。モデルを展開する機関がリスクを所有します。少数が行っていること先を行っている企業は、3つの動きをしています。 彼らは、現在の規模ではなく、達成しようとしている規模に合わせて、コントロールのインフラストラクチャを今すぐ構築しています。コントロールは、必要とするエージェントの前に存在する必要があります。 展開プロセスの最初からリスクの分類と緩和を組み込んでいます。つまり、すべてのユースケースは最初からリスクに応じたコントロールで分類されます。 そして、独立したガバナンスを立ち上げ、実際の権限でこれらのシステムが意図したとおりに動作することを検証しています。独立性により、検証が信頼性を持ちます。柔軟性により、現在のものに保たれます。 注目すべきは、ほとんどの規制当局が、生成されたAIの使用と監視に関する明確なルールをまだ確立していないということです。しかし、それは、指針として利用できるものがないことを意味するわけではありません。規制当局は、従来のモデルを管理するための確立されたルールを持っています。4月に、連邦準備制度、OCC、およびFDICは、モデルリスクに関する改訂ガイダンスを発行しました。これは、原則に基づくアプローチであり、モデルインベントリ、リスクに比例したコントロール、独立した検証、継続的な監視、およびベンダー製品に対する企業の責任を含みます。また、機関に、これらの同じ慣行をAIに適用するよう指示しました。メッセージは明確です。機能する原則は既にわかっているので、正式なAIルールは近くには来ません。規制の明確さを待っている企業は、少数が行動を起こしている間、待機することになります。これが、規制された業界が遅れていると言われている理由です。彼らは、必要な信頼の機械を構築するために、数十年かけて投資してきました。そして、使用するための許可を待つことはありません。重要な質問すでに分裂が生じています。ほとんどの企業は、ガバナンスをコストと見なしています。何かを吸収し、耐え、最小限に抑えるものです。少数の企業は、ガバナンスを、人間をより貴重な仕事に移し、自信を持って拡大できるインフラストラクチャと見なしています。すべてのリーダーシップ チームは、どちらか一方にいます。故意に選択したかどうかは関係ありません。ギャップは、表面化するスケールの前に静かに蓄積しています。誰もが、エレベーターに乗ることを疑うことはありません。信頼が構築されているからです。AIにも同じことを行う企業は、まだ乗り込もうとしているすべての企業を超えて成長するでしょう。