ソートリーダー

企業が価値観に基づくAIガバナンスを採用すべき理由

Isabella Grandi
Unite.AI を Google の優先ソースに追加
要点価値観に基づくAIガバナンスフレームワークにより、企業は各法域ごとにシステムを再構築することなく、グローバルに事業を展開できます。
もっと見る
  • 価値観に基づくAIガバナンスフレームワークにより、企業は各法域ごとにシステムを再構築することなく、グローバルに事業を展開できます。
  • 説明責任や公平性など6つの主要な価値観を採用することで、社会的信頼を構築し、最高水準の倫理基準を満たすことができます。
  • 強固なAIガバナンスは、複数地域での市場参入スピードの向上とリスク低減を可能にし、ビジネス価値を創出します。

2025年9月、国連の全加盟国が初めて一堂に会し、国際的なAIガバナンスについて協議しました。多くの国は2月にデリーで開かれたAI Impact Summitにも再び代表を送りました。この催しを経て、AIガバナンスを中心に据えた二つの新組織が発足しましたが、成功と呼べるとしても象徴的なものにとどまりました。

国連の新たな仕組みは合意を得るために設計されており、AIの軍事利用のような対立を招く領域を避け、明確な財源も執行権限もありません。経験豊富な観察者にとって、これは驚くべきことではありません。今日の国連には、迅速に動いたり、決定をすべての国に守らせたりする能力がなく、実質的な変化を実現する場としては難しさがあります。

これは以前から繰り返されてきた構図です。AI規制について合意を形成しようとする散発的な試みは何年も続いていますが、重要な国際合意には至っていません。その空白の中で、各国や国家のグループは独自のルールを作らざるを得ませんでした。それでもAIを広く普及させ、人々の信頼を得て、持続的な社会的・経済的利益につながる形で使うためには、効果的なガバナンスが欠かせません

その場しのぎの修繕を重ねる現状

世界各地でAIシステムを構築・運用する企業にとって、共通して合意されたガバナンスの仕組みがないことは問題です。世界中に展開したくても、まったく同じルールに従う法域は二つとありません。そのため、システムの周囲に汎用的なガバナンスの枠組みを作ったうえで、事業を行う国ごとに現地法や規制に適合するよう、一から組み直さなければなりません。これは膨大な追加作業を生み、AI事業のコストと遅延リスクを高め、規模の経済を実現して効果的なツールを世界の利用者に届ける力を損ないます。

しかし、別の方法もあります。取り組みを効率化したい企業にとって最善の選択は、地域をまたいで共有される倫理原則を考慮したAIガバナンスの枠組みを作ることかもしれません。そうすれば、個人の自由、プライバシー、安全の保護について、どこでも高い水準を満たせます。AI企業が自社技術への社会の信頼を高め、顧客基盤を強化し、AIが社会にもたらし得る利益を生かすうえで、有力な手法です。

AIガバナンスの六つの重要な価値

価値観に基づくAIガバナンスに関心のある組織には、私たちが従っている六つの価値を勧めたいと思います。説明責任、説明可能性、透明性、公平性、セキュリティ、そして決定に異議を申し立てられることです。

これらを選んだのは、AIシステムのライフサイクルの主要領域をすべてカバーし、国際標準化機構のISO/IEC 42001や、英国政府のArtificial Intelligence Playbookなど、AIに関する各種の国際・国内基準ですでに明文化されているからです。

まず説明責任とは、AIのライフサイクルの各段階で誰が何に責任を持つかを把握することです。責任の所在が明確でなければ、最終責任を負う個人やチームがいないため、不可欠な管理措置が抜け落ちるおそれがあります。組織は最高AI責任者のような上級職者を責任者として実名で指定し、AIシステムと重要な段階に割り当てるべきです。またリスクに基づくガバナンスモデルを採用し、外部ツールにも自社開発ツールと同じ厳しさで検証を行う必要があります。自社システムと同じくらい十分に、供給業者の契約条件、制約、法的責任を理解するということです。

経済協力開発機構(OECD)は、AIの説明責任を高めるための指針で、この点を的確に示しています。組織に対して「AIリスク管理のプロセスを組織全体のより広いガバナンスに組み込み、組織内とAIのバリューチェーン全体の双方でリスク管理の文化を育てる仕組み」を設けるよう勧めています。

次は説明可能性です。組織は、AIシステムがどのように決定に至るのかを示せる必要があります。そのためには、意思決定を記録し追跡する仕組みに加え、システム設計、学習データ、判断プロセスに関する明確な記録が必要です。これらを組み合わせることで、チームはシステムの構想から導入まで、情報の由来と流れを理解できます。

公平性とは、AIシステムが公正な結果を生み、既存の偏りを再現・増幅しないようにすることです。意識的な検証を行わなければ、偏った結果によって害を及ぼす可能性があります。採用、医療、刑事司法といった影響の大きい領域では、特に問題になります。対策として、組織は偏りを検出する措置を導入し、関係する集団ごとに出力を定期的に確認し、現地の差別禁止要件に対応できるガバナンスの枠組みを設計すべきです。実際には、英国の2010年平等法やEU基本権憲章による義務など、遭遇する可能性がある最も高い法的基準を満たすシステムを作ることを意味します。

透明性は、利用者と規制当局の双方に明確な情報をもたらします。人々は、いつAIが使われ、意思決定でどのような役割を担い、どんなデータがその基盤となっているのかを理解すべきです。実務上の出発点は、AIシステム間で文書化を標準化し、モデルカードなどの内部ツールで支えることです。モデルカードは機械学習モデルに添付する短い文書で、想定する利用環境、性能評価手順の詳細、その他の関連情報を説明します。透明性がなければ、利用者は不公正な結果に異議を申し立てられず、規制当局は効果的に介入できず、有害な影響が隠されるおそれがあります。

セキュリティは、AIシステムを不正アクセス、操作、意図しない挙動から守ることです。脆弱であれば、AIは組織、利用者、そのデータを危険にさらし、金銭的損失や評判への悪影響を招きます。組織は性能と精度のしきい値を定め、現実的な条件でストレステストを行い、脆弱性を見つけるためのレッドチームテストを取り入れるべきです。

最後に、異議申立てが可能であることは、AIに基づく決定を不服として争ったり、再審査を求めたりする明確で利用しやすい手段を保障します。それがなければ、影響を受ける利用者に救済手段がなく、問題が表面化も解決もしない可能性があります。組織は利用の場で報告できる窓口を設け、上級責任者に苦情対応を任せ、必要に応じてシステムを一時停止、見直し、更新できるようにすべきです。

価値観に基づく枠組みにはどんな利点があるか

価値観に基づくAIガバナンスを採用する強い理由は二つあります。一つは、AIシステムを構築・導入する側が、その影響を受ける人々や組織に倫理的責任を負うこと。もう一つは、AIが約束する利益を実際に実現するうえで、より効果的な方法だからです。

企業・個人を問わず、AIシステムの利用者は、開発者が個人データを悪用したり、不必要なリスクにさらしたりしないと暗黙に信頼しています。組織がその信頼を裏切れば、利用者をつなぎ留めるのは非常に難しくなります。結局、人々がAIシステムを信頼し、かつその明確な利益を実感できるのでなければ、導入を受け入れません。それは社会的・経済的な分断を深め、技術がもたらす多くの機会を逃すことにつながります。

一方、ガバナンス要件が緩やかな地域も含め、どこでも価値観に基づく枠組みを適用する企業は、最低限の法令順守より高い基準を自らに課していると、顧客、投資家、規制当局に示せます。これが信頼、関与、ひいては事業の成功を育てます。

強固なAIガバナンスは価値を生むものであり、法令順守の負担ではありません。新製品をより早く市場に送り出し、リスクへの露出を減らし、複数の市場で確信を持ってソリューションを拡大できるようにします。

McKinseyの「The state of AI」という報告書では、次のように述べています。 「CEOによるAIガバナンスの監督は…組織による生成AIの利用が最終利益に与える影響について、自己申告の値がより高いことと最も強く相関する要素の一つである」。これは、この手法の商業的な利点を裏づけています。その意味で、AIシステムに強い倫理的枠組みを組み込むことは、長期的な視野に立った自己利益の追求なのです。

しかし、何よりも、それは単純に正しい行いです。私たちは、先端技術は人と社会に奉仕すべきであり、その逆であってはならないという同じ原則を基に、世界共通の倫理的AI方針を作りました。これは、経済的進歩と社会課題の解決を結びつけようとする、人間中心のイノベーションモデルであるSociety 5.0の広いビジョンを反映しています。

AIのような新しい技術が、より幸福で調和の取れた社会を育むには、強い倫理的基盤が必要です。その第一歩は、組織が満たす義務のある基準だけでなく、自ら達成したい基準にも目を向けることです。

イザベラ・グランディは、NTT DATA UK&Iのデータ&AI戦略、ガバナンス、倫理のディレクターです。彼女は、組織と協力して、責任あるAIとAIガバナンスを形作り、提供し、それらを現在の状態からより成熟したデータ駆動型の運用モデルへと移行させます。

彼女の仕事は、組織がAIを設計し、展開する際に、倫理的な実践と堅牢なAIリスク管理を組み込むことに焦点を当て、責任ある使用が意思決定構造と日常業務に組み込まれることを保証しています。