インタビュー

Stavros Gadinis、バークレー・ロー教授、『企業の秩序形成』著者—インタビューシリーズ

Antoine Tardif
Unite.AI を Google の優先ソースに追加
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
要点企業による自主的な規制とは、規制当局が動く前に企業が自ら規則を定め監視する方法を指す。
もっと見る
  • 企業による自主的な規制とは、規制当局が動く前に企業が自ら規則を定め監視する方法を指す。
  • AIの安全性評価は、経営陣が外部の評価者を雇い、また解雇できる場合には独立性を欠く。
  • 一度も打ち上げを遅らせたことのない安全枠組みは、広報活動と区別がつかない。

Stavros Gadinisは、UC Berkeley School of LawのGeorge R. Johnson法学教授です。企業統治、金融規制、そして企業が意思決定を行い、その実施状況を監視するために用いる内部システムについて研究しています。アカデミアに進む前は、ヨーロッパで企業法務に携わっていました。

Cambridge University Pressから刊行された新著、『企業の秩序形成――企業はいかに社会的対立を乗り越えるのか』では、公的なルールが定まっていない状況で、企業がどのようにガバナンス体制を築くのかを考察しています。ライドシェア、気候変動対策、人工知能をめぐる事例を通じて、企業がどのようにルールを定め、権限を行使し、自らの行動を監督するのかを検討します。

ヨーロッパでの企業法務の実務と、バークレー・ローでの企業統治および金融規制の研究にまたがるキャリアをお持ちです。そうした経験はお考えにどのような影響を与えましたか。また、『企業の秩序形成』を書こうと思ったきっかけは何ですか。

私はヨーロッパで企業法務に携わることからキャリアを始め、その後、バークレーで長年にわたり企業統治や金融規制を研究してきました。そこには、単一の政府が管轄していない状況で、ルールが国境を越えてどのように広がるかというテーマも含まれます。私たちは、ビジネスの世界と規制の世界を正反対のものと考えがちです。一方は迅速な意思決定と大きな利益を求め、もう一方は官僚的な手続きと公益を重視する、という見方です。しかし、実務と研究の両方を通じて、その境界は考えられているよりもずっと曖昧だと学びました。

本書は、従業員、顧客、地域社会、政府がそれぞれ異なる要求を持つような、議論を呼ぶ意思決定に企業がどう対処するのかについて、法務責任者や経営幹部と交わした対話から生まれました。特に印象的だったのは、彼らの手法が優れた規制当局の手法と非常によく似ていることです。影響を受ける人々に働きかけて情報を集め、選択の理由を公に説明し、その判断が妥当かどうかを確かめる仕組みを設けています。これらは規制特有の習慣でも、企業特有の習慣でもありません。他者に対して権力を行使するあらゆる組織において、適切な意思決定を行うための原則です。『企業の秩序形成』は、そうした仕組みを描き、それが機能する場面と、機能しない場面を示そうとする試みです。

「企業の秩序形成」とは何ですか。また、規制が追いついていない技術について、AI企業がどのようにルールを定めているのかを理解するうえで、どのように役立ちますか。

企業の秩序形成とは、法律が企業に何をすべきかを定める前に、企業が対立を伴う意思決定を行うために構築する内部ガバナンスの基盤です。国家の三権に対応する、三つの機能があります。ルール策定とは、企業が自らの原則を定めることです。執行とは、それらの原則を具体的な意思決定に適用することです。監視とは、決めたことが実行されたかを確認し、実行されなかった場合にその事実を把握することです。

AI企業では、この三つの機能すべてが見られます。最先端のAI研究所は、憲章、モデル仕様、安全性の枠組みを策定します。これがルール策定です。モデルを公開する準備ができているか、何を拒否するのか、誰にアクセスを認めるのかを決めます。これが執行です。また、レッドチーム演習、外部評価、インシデント報告を依頼します。これが監視です。本書では、主要な研究所を対象に、こうした機能を分析しています。各社の違いは確かにありますが、顕著な収れんも見られます。どの企業も、必要な要素をすべて備える理由を見いだしているのです。

誤解されることが多いため、一点はっきりさせておきたいと思います。企業の秩序形成は、規制に反対する主張ではありません。規制が何を基盤として築かれるのかを示すものです。議員が行動を起こすとき、企業が先に発展させた概念を取り入れます。本当に問われるべきなのは、その最初の案が、取り入れるに値するほど慎重に作られていたかどうかです。

本書では、ライドシェア、気候変動対策、AIガバナンスを取り上げています。最初の二つの分野から得られる教訓のうち、AIに最も役立つものは何でしょうか。また、AIには根本的に異なるどのような課題がありますか。

ライドシェアと気候変動対策から得られる教訓は、企業が法律の最初の案を作ることが非常によくある、ということです。UberとLyftは、州がルールを定める前に保険や安全性に関する報告の慣行を築きました。また、企業の炭素会計の多くは、企業が策定に関わったGHG Protocolに基づいています。その後、規制当局はこうした慣行を容認したり、補完したり、法律に盛り込んだりしました。規制が白紙の状態から始まることはほとんどありません。そして企業が自らの選択について深く考え、影響を受ける人々を考慮するほど、その選択が規制に取り入れられる可能性は高まります。

AIには二つの点で違いがあります。一つ目は速度です。規制当局は業界に一歩遅れることがよくありますが、AIではその隔たりがはるかに大きくなっています。規制当局は、基準や社内プロセスの策定を企業に頼らざるを得ず、自らの取り組みを監督、検証、執行に集中させる必要があります。規制当局の役割は小さくなるのではなく、変わるのです。経営陣との利益相反が最も強くなるのは検証の場面であり、そこでは公権力が最も重要になります。二つ目は影響の広さです。AIは日常生活のほぼあらゆる領域に関わり、国全体にとって大規模な投資対象にもなっています。システミックリスクへの影響は、見過ごしがたいだけでなく、その全容を把握するのも容易ではありません。

AI企業が自社で選び、報酬を支払う外部の安全性評価者について、監督を実質的に独立させるには、どのような安全策が必要ですか。

この利益相反は財務監査でよく知られており、企業法にはすでに対処するための手段がある。第一に、誰が評価者を選任し、解任するのかという問題だ。評価者との関係は、監査委員会がCEOやCFOではなく外部監査人を監督するのと同じように、会社との間にほかの金銭的な利害関係を持たない独立取締役が担うべきだ。経営陣が、自分たちに都合の悪い評価結果を出した評価者を解任できるようにしてはならない。

第二に、情報へのアクセスと結果の公表だ。評価者は、確認を求めた情報を閲覧できなければならず、会社に拒否権を行使されることなく、評価結果、あるいは少なくとも内容のある要約を公表する権利を持つ必要がある。評価に実効性を持たせるのは、評判を損なうリスクだ。第三に、共通の評価基準が必要だ。そうすれば、企業ごとに評価の意味が変わらず、評価者が甘い基準を設けて競い合うこともなくなる。第四に、内部告発者を保護し、実行可能な情報を提供した場合には報奨を与えることも必要だ。評価が誘導されていたと最初に気づくのは、社内の人々であることが多いからだ。

外部の評価者が、大規模なモデルのリリース直前に重大な安全上の懸念を特定したとします。その評価結果は誰に伝えるべきで、導入を延期または中止する権限は誰が持つべきでしょうか?

評価結果は取締役会に直接伝えるべきであり、理想的には、安全を担当する独立取締役の委員会に提出すべきだ。リリースを推し進めている経営陣を経由するだけでは不十分である。経営陣は意見を述べることができ、また述べるべきだが、情報を選別する役割を担ってはならない。導入を延期または中止する権限は取締役会にあるべきだ。重大な利害がかかり、利害が対立し、明白な正解のない決定を下すことこそ、取締役会の役割だからである。

しかし、より重要なのは、決定を明確に記録し、誰が下したのかをたどれるようにすることだ。懸念があるにもかかわらず取締役会が導入を進めるなら、何を把握し、何を考慮し、なぜリスクを許容できると判断したのかを記録に残すべきだ。こうした記録は、法的責任、あるいは少なくとも評判の毀損につながる条件を生み、人々に慎重な判断を促す。ソフトウェアの設計上の選択が利用者に影響を及ぼすことを、裁判所はますます認めるようになっている。真摯に取り組み、その過程を記録で示せる会社は、そうできない会社とは大きく異なる立場に置かれる。

安全上の懸念が収益目標や競争圧力と衝突したとき、信頼できる取締役会の意思決定プロセスはどのようなものであるべきでしょうか?

信頼できるプロセスとは、十分な情報に基づき、記録を残すものだ。取締役会は、延期に伴う具体的なコスト、安全上の懸念の内容とその発生可能性、リスクを軽減する選択肢について、具体的な情報を得るべきである。テストは十分だったのかを問い、不十分であれば追加のテストを依頼するか、外部評価を求めるべきだ。真の不確実性が残る場合、リリースか棚上げかの二択に限らず、限定的な公開、段階的な展開、サンドボックスの利用など、会社が全面的な決断を下す前にさらなる知見を得る方法がある。そして取締役会がどのような決定を下すにせよ、会社がモデルの安全性について公に述べる内容は正確でなければならない。現在の訴訟リスクの多くは、まさにこの点にある。

次に、取締役会は何を決め、なぜそう決めたのかを書き残すべきだ。こうした記録は時間とともに先例の蓄積となり、次の難しい判断を前回の判断と照らして検証できるようになる。また、会社を審査する人々は、掲げられた原則が実際に意思決定を拘束しているかどうかを確認できる。Microsoftは、こうした意思決定の記録を作り始めており、AIガバナンスにおいて最も過小評価されている手段の一つだと私は考えている。競争圧力は現実に存在し、取締役会が前進すると合理的に判断することもある。しかし、成り行き任せに決めることは許されない。

あなたの研究では、取締役会の意思決定を評価するための「社会的経営判断」基準を提唱しています。社会に危害を及ぼす可能性を理由に、収益性の高い製品の発売を延期するAI企業には、この基準をどのように適用できるでしょうか?

現行の企業法の下では、利益の見込める発売を延期する取締役会は、すでに十分に保護されている。裁判所は取締役の経営判断を尊重しており、将来の被害を避けるために現在の利益を抑えることは、その範囲内に十分収まる。より難しいのは逆の問い、つまり取締役会が社会的な被害を真剣に考慮したのかどうかだ。

社会的ビジネス判断では、取締役会に対し、ほかの事業上のリスクと同じように、可能な限り具体的で測定可能な指標を用いて、社会的な被害の可能性を評価するよう求める。重視されるのは結果ではなく、プロセスとデューデリジェンスだ。適切な情報を集め、影響を受ける人々の意見を聞き、判断の根拠を記録した取締役会は、発売を延期するか実行するかにかかわらず、司法の尊重に値する。これらを何もしなかった取締役会は、そうではない。したがって、ご質問のケースでは、延期したこと自体が問題なのではない。問題は、取締役会がその決定に至った経緯を示せるか、そして同じ事実の下で再び同じ判断を下すかどうかだ。

AI企業は安全性に関する枠組みや自主的な取り組みを公表していますが、そうした方針が個々の意思決定にどう影響するのかを読者が知る機会はほとんどありません。実効性のあるガバナンスと、広報目的の取り組みを見分けるには、どのような証拠が必要でしょうか?

企業が枠組みを公表しても、その枠組みが具体的な意思決定に実際に適用されるのか、それとも企業が実行に移すことのない単なる美辞麗句にとどまるのか、一般の人々には分からないことがよくあります。その疑問に答えるのが、特定の種類の情報開示です。原則をさらに表明するのではなく、企業はどのような具体的な選択を行い、その枠組みがそれらの選択にどう影響したのかを報告すべきです。どのローンチを延期したのか、どの機能の提供を見送ったのか、どのリスクしきい値に達し、その後どうなったのかを明らかにする必要があります。

最も説得力のある証拠は、企業が何らかの代償を払うことになった意思決定です。結果を変えたことも、ローンチを延期したことも、収益に反する形で適用されたことも一度もない枠組みは、広報活動と見分けがつきにくいでしょう。こうした情報開示は検証できるだけの具体性を備えていなければなりません。また、最も重大な問題については、公に検証結果を表明できるだけの立場にある第三者が確認すべきです。

企業の自主的なガバナンスには、どのような限界があるのでしょうか。許容可能なAIリスクに関するどのような意思決定に、公的なルールや民主的な監督が必要でしょうか。

最も重要な限界は、監視が機能しない場合に関わるものです。善意を持って責任ある行動をする企業であっても、重大な危機に直面することはあり、そのときには利益相反が幾重にも生じます。従業員は、自分の雇用やボーナスに悪影響を及ぼす情報を伏せるかもしれません。経営幹部は、世間からの批判を避けるために悪い知らせを握りつぶすかもしれません。訴訟への懸念から、企業が率直に情報を公開できなくなることもあります。過去の企業危機では、重要な情報をもたらしたのはたいてい、経営陣が統制できない人々、外部監査人や審査担当者、影響を受けた当事者、あるいは独立した通報窓口を利用した社内の内部告発者でした。

公的なルールが最も重要になるのは、まさにこの点です。法律がルール策定の段階で付け加えられるものは比較的限られます。というのも、法律は主要な概念を企業から取り入れる傾向にあるからです。一方、自主的に情報を開示しない企業にも適用することで、情報開示の面ではより大きな役割を果たせます。そして、独立した審査を義務づけ、内部告発者を保護し、外部による検証に実効性のある権限を与えることで、検証の面では最も大きな役割を果たします。

もう一つの限界は、集団的なものです。一企業にできる最大限のことは、自らの行動を止めることです。競合他社の行動までは止められません。フロンティアAIの開発を減速させるべきかどうかを含む壊滅的リスクに関する意思決定には、国内外で企業と政府が連携する必要があります。有望だと私が考えるモデルの一つは、サステナビリティ報告におけるISSBのような国際基準設定機関です。政府から独立しつつ、政府も参加する受託者による監督を受ける機関です。こうした取り組みには企業による秩序形成が欠かせません。モデルを形づくる作業は、それを開発する企業の内部で行われるからです。しかし、企業だけでその役割を担うことはできません。

今日、急成長中のAI企業の取締役会に助言するとしたら、どのようなガバナンス改革を3つ優先しますか。また、それらが機能したかどうかを判断するため、1年後にどのような証拠を確認しますか。

第一に、ルール策定にあたっての意見聴取です。安全性の枠組みや利用ポリシーを採用または改訂する前に、企業は影響を受ける人々(ユーザー、市民社会、各分野の専門家)に意見を求め、寄せられた意見とそれへの対応を公表すべきです。第二に、定期的な責任報告です。枠組みに基づき、取締役会と経営陣が下した難しい意思決定を、検証できるだけの詳細とともに年次報告します。第三に、外部監視担当者を置くことです。独立社外取締役が採用し、その取締役に報告する担当者に、全面的なアクセス権と報告内容を公表する権利を与えます。

1年後には、それぞれの取り組みが実際に効果を発揮した証拠を探します。意見聴取については、企業が寄せられた意見を受けて変更したルールが少なくとも一つあること。報告については、収益や時間を犠牲にしたものも含め、企業が本来なら公表したくなかった意思決定が開示されていること。監視担当者については、企業にとって望ましくない調査結果が示され、それに対して取締役会がどう対応したかの記録があることです。1年後の報告がすべて朗報なら、改革は機能していません。

素晴らしいインタビューをありがとうございました。本書について詳しく知り、購入方法を確認したい読者は、企業による秩序形成の公式ウェブサイトをご覧ください。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。