企業がAIガバナンスに値観ベースのアプローチを採用するべき理由

2025年9月、国際連合の全加盟国が初めて国際AIガバナンスについて議論するために集まりました。多くの国が2月のデリーのAIインパクトサミットにも参加しました。このイベントにより、2つの新しいAIガバナンスに関する機関が設立されました。しかし、これはあらゆる点で象徴的な成功にすぎませんでした。

国連の新しいメカニズムは、合意を確保するために設計されています。軍事でのAIの使用などの争議のある領域を避け、明確な資金提供源や執行力がありません。これは、経験豊富な観察者にとって驚くことではありません。現在の国連は、迅速に動いたり、決定の普遍的な遵守を確保したりする能力が欠けています。これは、実際的な変化をもたらすための難しいフォーラムです。

これは、すでに確立されたパターンに適合しています。AI規制に関する合意を構築しようという散発的な試みが数年間続いてきたにもかかわらず、重要な国際合意はまだありません。これにより、個々の国やブロックが独自のルールを開発するための空白が生じ、AIの有効なガバナンスが不可欠になりました。AIが広く採用され、公衆に信頼され、社会的および経済的な利益をもたらすために使用されるようにするためには、AIの有効なガバナンスが不可欠です。

やりくりして直す

世界中でAIシステムを構築および運用しているグローバル企業にとって、この共通の合意されたガバナンスメカニズムの欠如は問題です。彼らは世界中でAIシステムを展開したいと思っていますが、2つの管轄区域が同じセットのルールに従っていることはありません。したがって、彼らは代わりに、システムの周りにジェネリックなガバナンスフレームワークを作成し、各国でそれを地上から再構築して、ローカル法と規制に準拠していることを確認する必要があります。このアプローチにより、多大な余分な作業が生じ、AIイニシアチブのコストが高くなり、遅延しやすくなり、グローバル企業の経済的利益を実現し、ユーザーに効果的なツールを共有する能力が損なわれます。

しかし、代替案があります。アプローチを簡素化したい企業にとって、最善の選択肢は、さまざまな地域で共通の倫理原則を考慮してAIガバナンスフレームワークを構築することです。これにより、個人、プライバシー、セキュリティの自由を保護することで、どこでも高い基準を満たすことができます。このテクニックは、AIビジネスがテクノロジーに対する公衆の信頼を高め、顧客ベースを強化し、AIの潜在的な利点を社会に活用するための強力な方法です。

AIガバナンスの6つの重要な価値

AIガバナンスに値観ベースのアプローチを採用したい組織のために、私は私たちが従っている6つの重要な価値を提案します。説明責任、説明可能性、透明性、公平性、セキュリティ、争議性です。

これらの価値を選択した理由は、AIシステムのライフサイクルのすべての主要な領域をカバーしていることと、国際的なおよび国内のAIに関する規格であるISO/IEC 42001やイギリス政府のAIプレイブックなどの規格にすでに規定されていることです。

まず、説明責任とは、AIライフサイクルのすべての段階で誰が何に責任があるかを知ることです。明確な所有権がなければ、重要なコントロールが省略される可能性があります。組織は、AIシステムと重要な段階にシニア、ネームドオーナーを割り当て、リスクベースのガバナンスモデルを使用し、サードパーティツールと自社開発ツールに同じレベルの注意を払う必要があります。これには、サプライヤーの条件、制限、および責任を理解することが含まれます。

経済協力開発機構(OECD)は、AIにおける説明責任の向上に関するガイダンスで、これをうまく捉えています。このガイダンスでは、組織が「AIリスク管理プロセスをより広範な組織のガバナンスに組み込み、組織内および全AIバリューチェーン全体でリスク管理の文化を育む」メカニズムを作成することを推奨しています。

次に、説明可能性について説明します。組織は、AIシステムが決定に至った方法を示すことができる必要があります。そのためには、意思決定を文書化および追跡するメカニズムと、システム設計、トレーニングデータ、意思決定プロセスの明確な記録が必要です。これらをまとめると、チームはシステムの作成から展開までの情報の連鎖を理解できます。

公平性は、AIシステムが公平な結果を生み出し、既存の偏見を複製または増幅しないことを保証することです。故意のチェックがないと、システムは、特に採用、医療、刑事司法などの高影響力の分野で、偏った結果を生み出すことで害を及ぼす可能性があります。組織は、偏見検出措置を実装し、関連するグループ全体で出力を定期的に確認し、ローカルの差別禁止要件を満たすガバナンスフレームワークを設計する必要があります。実践的には、最も厳格な法的基準を満たすシステムを構築することを意味します。たとえば、イギリスの2010年平等法や欧州連合の基本権憲章などの法律による義務があります。

透明性は、ユーザーと規制当局の両方にとって明確性をもたらすことです。人々は、AIが使用されているかどうか、意思決定におけるAIの役割、AIに基づくデータを理解する必要があります。実用的には、AIシステム全体で文書化を標準化することから始め、モデルカードなどの内部ツールを使用します。モデルカードとは、機械学習モデルに付随する短い文書で、モデルが使用されるコンテキスト、パフォーマンス評価手順の詳細、その他の関連情報について説明しています。透明性がなければ、ユーザーは不公平な結果に異議を唱えることができず、規制当局は効果的に介入できず、有害な影響が隠される可能性があります。

セキュリティは、AIシステムを未承認のアクセス、操作、または予期せぬ動作から保護することです。セキュリティが弱いと、AIシステムは、組織、ユーザー、およびそのデータをリスクにさらし、財務的および評判の損害につながる可能性があります。組織は、パフォーマンスおよび精度のしきい値を定義し、現実的な条件下でシステムをストレステストし、脆弱性を特定するためにレッドチームテストを組み込む必要があります。

最後に、争議性は、人々がAI駆動の決定に異議を唱えたり、提訴したりするための明確でアクセス可能な方法を提供することを保証します。そうでない場合、影響を受けるユーザーは何もできないので、問題は決して表面化したり解決されたりしません。組織は、使用時点での報告チャネルを提供し、シニアオーナーを投訴の管理に割り当て、システムを一時停止、確認、または必要に応じて更新できるようにする必要があります。

値観ベースのフレームワークの利点は何か

この値観ベースのアプローチを採用する理由は2つあります。第一に、AIシステムを構築して展開する企業には、影響を受ける人々や組織に対して倫理的な責任があります。第二に、これはAIの約束された利点を実践で実現するためのより効果的な方法です。

AIシステムのユーザー、企業および個人は、個人データを悪用したり、不必要なリスクにさらしたりしないように、創造者に対して暗黙の信頼を寄せています。組織がこの信頼を損なうと、ユーザーを維持することは非常に難しくなります。最終的には、人々がAIシステムを信頼し、明確な利点を認識できない場合、AIの導入に同意しません。その結果、社会的および経済的な分裂が生じ、テクノロジーによってもたらされる多くの機会を逃します。

一方、企業がどこでも値観ベースのフレームワークを適用する場合、顧客、投資家、規制当局に、基本的なコンプライアンス要件を超えた高い基準を遵守していることを示すことができます。これにより、信頼、関与、最終的にはビジネスの成功がもたらされます。

強力なAIガバナンスは、コンプライアンスの負担ではありません。ビジネスに価値を創造するものです。新しい製品をより迅速に市場に投入し、リスクの暴露を減らし、複数の市場で自信を持ってソリューションを拡大することを可能にします。

マッキンゼーの「AIの現状」レポートによると、「CEOのAIガバナンスの監督は、企業のジェネラルAIの使用による収益への影響と最も相関関係にある要素の1つです。」これは、このアプローチの商業的な利点を強調しています。強力な倫理的枠組みをAIシステムに組み込むことは、目覚ましい自己利益です。

しかし、それ以上に、これはただ単に正しいことです。私たちは、先進的なテクノロジーは人々や社会に奉仕するべきであり、その逆でないという原則を中心に、世界的な倫理AIポリシーを構築しました。これは、経済的進歩と社会的課題の解決を結び付ける、人間中心のイノベーションモデルであるSociety 5.0のビジョンを反映しています。

AIのような新興テクノロジーが、より幸せで調和のとれた社会を生み出すためには、強力な倫理的基盤の上に構築される必要があります。これは、組織が遵守しなければならない基準にのみ焦点を当てるのではなく、達成したい基準に焦点を当てることから始めます。