倫理

ホワイトハウスのAI時代の権利章典が米国と世界に意味すること

Antoine Tardif
Unite.AI を Google の優先ソースに追加
要点ホワイトハウスのAI権利章典は拘束力がなく、米国政府の政策を構成するものではない。
もっと見る
  • ホワイトハウスのAI権利章典は拘束力がなく、米国政府の政策を構成するものではない。
  • 説明可能なAIは、深層学習のブラックボックス問題により、コンプライアンスにとって不可欠である。
  • この法案は、透明性と公衆保護を優先することで、中国のアプローチとは対照的である。

ホワイトハウス科学技術政策局(OSTP)は最近、「AI時代の権利章典の青写真:自動化システムを米国民のために機能させる」という白書を公表しました。OSTPが「AIが支える世界のための権利章典」を策定する手続きの開始を発表してから1年後の公開です。

この文書の序文は、ホワイトハウスがAIによる社会への差し迫った脅威を理解していることを明確に示しています。序文は次のように述べています。

「今日、民主主義が直面する大きな課題の一つは、技術、データ、自動化システムが米国民の権利を脅かす形で使われることです。これらの道具はあまりにも頻繁に、機会を制限し、重要な資源やサービスへのアクセスを妨げるために使われます。こうした問題は十分に記録されています。米国でも世界各地でも、患者のケアを助けるはずのシステムが危険、無効、または偏っていることが判明しています。採用や融資判断のアルゴリズムは、既存の望ましくない不平等を反映・再生産したり、新たな有害な偏見や差別を組み込んだりしています。歯止めのないソーシャルメディアのデータ収集は、人々の機会を脅かし、プライバシーを損ない、活動を広く追跡するために、しばしば本人の認識や同意なしに使われてきました。」

この権利章典と提案された枠組みがAIの将来に何を意味するかは、まだ分かりません。確かなのは、新たな進展がますます加速する指数関数的な速度で現れていることです。かつて不可能と思われた即時の言語翻訳は現実になり、OpenAIと有名なプラットフォームGPT-3が率いる自然言語理解(NLU)の革命も進んでいます。

その後、Stable Diffusionという技術による即時の画像生成が登場し、これはまもなく一般消費者向けの主流製品になる可能性があります。利用者が想像できる要求を入力するだけで、AIは魔法のようにそれに合う画像を生成します。

指数関数的成長と収穫加速の法則を考えると、AIが日常のあらゆる側面を担う時代がやがて訪れます。これを理解してパラダイム転換を活用する個人や企業は利益を得るでしょう。しかし社会の大きな部分は、AIの悪意ある利用と意図しない結果の両方の被害者になり得ます。

AI権利章典は、自動化システムの構築、導入、管理において公民権を守り、民主的価値を促す政策と実務の発展を支えるものです。中国の取り組みとどう比較されるかはまだ分かりませんが、AIの環境を変える可能性があり、豪州、カナダ、EUなどの同盟国に採用されることも考えられます。

ただし、このAI権利章典に拘束力はなく、米国政府の政策を構成するものでもありません。既存の法律、規則、政策、国際文書に優先したり、それらを変更したり、解釈を指示したりしません。したがって、白書の政策に従うかは企業や政府の判断に委ねられます。

文書は、AI時代の米国民を守るため、自動化システムの設計、使用、導入を導く五つの原則を示しています。以下にその概要を述べます。

1. 安全で有効なシステム

乱用されるAIシステム、とりわけ深層学習に依存するものには、社会への明白かつ現実の危険があります。次の原則はそれに対処しようとするものです。

「安全でない、または有効でないシステムから守られるべきです。自動化システムは、多様な地域社会、関係者、専門家に相談し、懸念、リスク、潜在的影響を特定して開発すべきです。導入前の試験、リスクの特定・低減、継続的監視によって、意図した用途に照らして安全で有効であり、用途外も含む危険な結果を軽減し、分野別基準に従うことを示すべきです。保護措置には、導入しない、または利用を中止する可能性も含めるべきです。本人や地域社会の安全を危険にさらす意図や、合理的に予見可能なその可能性を持って設計してはなりません。意図しないが予見できる使用や影響から生じる害を積極的に防ぐ設計とすべきです。設計、開発、導入における不適切・無関係なデータ利用と再利用の累積的な害から守られるべきです。安全性と有効性を確認する独立評価と報告を行い、潜在的被害を軽減する措置も報告し、可能な限り結果を公表すべきです。」

2. アルゴリズムによる差別からの保護

これらの政策は、企業が個人に及ぼす乱用について、見て見ぬふりをされがちな重大な問題の一部を扱います。

AIを使う採用では、深層学習が偏ったデータから採用判断を学ぶことがよく問題になります。過去の悪い採用慣行は、採用担当による性別や人種の差別につながります。ある研究は、学習データから性別を示す情報を除く難しさを示しました。

政府の偏ったデータの別の重大な問題は、不当な収監の危険、さらに悪い場合には少数集団に長い刑期を提示する犯罪予測アルゴリズムです。

「アルゴリズムによる差別を受けるべきではなく、システムは公平に使用・設計されるべきです。アルゴリズム差別は、自動化システムが人種、肌の色、民族、性(妊娠、出産と関連する医学的状態、性自認、インターセックスの状態、性的指向を含む)、宗教、年齢、出身国、障害、退役軍人の地位、遺伝情報、その他法律で保護される分類に基づいて、不当な異なる扱いや不利な影響に寄与するときに生じます。状況によっては法的保護に違反する可能性があります。設計者、開発者、導入者は、個人や地域社会を守り、公平に使用・設計するため積極的で継続的な措置を取るべきです。設計段階の公平性評価、代表性あるデータと人口統計的特徴の代理変数への対策、設計・開発での障害者のアクセス確保、導入前と継続的な格差試験・軽減、明確な組織的監督を含めるべきです。格差試験の結果と軽減情報を含むアルゴリズム影響評価の形で、独立評価と平易な言葉による報告を行い、可能な限り公表して保護を確認すべきです。」

米国はAIについて非常に透明な取り組みを選んでいます。これらは一般の人々を守る政策であり、中国のAIへの取り組みとは明確に対照的です。

3. データプライバシー

この原則は最も広い人口層に影響する可能性があります。前半は特にインターネットのデータ収集に関するものに見え、これはソーシャルメディアで知られた問題です。同じデータが広告販売に、さらに悪い場合は世論の操作や選挙への影響に使われ得ます。

「組み込みの保護によって不当なデータ慣行から守られ、自分に関するデータの使われ方を決める権限を持つべきです。 保護を初期設定として含む設計により、プライバシー侵害から守られるべきです。収集は合理的な期待に沿い、特定の状況に厳密に必要なデータだけに限るべきです。設計者、開発者、導入者は適切な方法で最大限、本人の許可を求め、収集、使用、アクセス、移転、削除についての決定を尊重すべきです。不可能な場合は、設計段階からの代替的な保護を使うべきです。選択を分かりにくくしたり、プライバシー侵害的な初期設定で負担をかける利用体験や設計判断を用いてはなりません。同意は、適切かつ意味ある形で与えられる場合にのみ収集の根拠とすべきです。同意の依頼は短く、平易な言葉で理解可能とし、収集と具体的用途について決定権を与えるべきです。広範なデータ利用のための、現在の理解しにくい通知と選択の慣行は改めるべきです。」

データプライバシー原則の後半は、政府と企業による監視を扱っているようです。

現在、企業は従業員を監視し、ひそかに追跡できます。場合によっては職場の安全改善のためで、COVID-19流行時にはマスク着用を強制するためでした。最も多いのは単に勤務時間の使われ方を見るためです。多くの従業員は、許容範囲を超えて監視・管理されていると感じています。

「健康、仕事、教育、刑事司法、金融などの機微な分野のデータと推論、若者のデータについては、強化された保護と制限が本人を最優先にすべきです。機微な分野では必要な機能だけにデータと推論を使い、倫理審査や使用禁止で守られるべきです。本人と地域社会は無制限の監視から自由であるべきです。監視技術には少なくとも導入前の潜在的被害評価と範囲制限を含む厳しい監督を課し、プライバシーと市民的自由を守るべきです。権利、機会、アクセスを制限する可能性が高い場合、教育、仕事、住宅、その他の場面で継続的な監視を行ってはなりません。可能な限り、データに関する決定が尊重されたと確認し、監視技術の権利、機会、アクセスへの潜在的影響を評価する報告にアクセスできるべきです。」

なお、AIは人々のプライバシーを守るためにも有益に使えます。

4. 通知と説明

これは企業にAI倫理の諮問委員会を設け、説明可能なAIの開発を加速するよう求める行動喚起となるべきです。AIモデルが間違えた場合に説明可能性は必要であり、仕組みの理解が容易な問題診断を可能にします。

説明可能なAIは、データの利用方法やAIが決定した理由について透明な情報共有も可能にします。これがなければ、深層学習のブラックボックス問題のため、政策への準拠は不可能です。

システムを改善する企業は、深層学習アルゴリズムが特定の決定を下した背後の微妙な違いや複雑さを理解することでも利益を得ます。

「自動化システムの使用を知り、自分に影響する結果にどう、なぜ寄与するか理解すべきです。 設計者、開発者、導入者は、全体の仕組みと自動化の役割の明確な記述、使用の通知、責任者または組織、明確で適時かつ利用可能な結果説明を含む、一般にアクセス可能で平易な文書を提供すべきです。通知は最新に保ち、重要な用途や主要機能の変更を対象者に知らせるべきです。システムが唯一の決定要因でない場合も、結果がどう、なぜ決まったかを知るべきです。本人、運用者、理解する必要のある他の人に、技術的に妥当で意味があり役立つ説明を提供し、状況に応じたリスクの水準に合わせるべきです。平易な要約と通知・説明の明瞭さや品質の評価を含む報告は可能な限り公表すべきです。」

5. 人による代替、検討と予備的な手続き

他の多くの原則と異なり、この原則は政府機関、または政府に代わって活動する民営化機関に最も当てはまります。

AI倫理委員会と説明可能なAIがあっても、命がかかる場面では人による再検討が重要です。常に誤りの可能性があり、要請に応じた人の審査が、AIが無実の人を刑務所に送るような状況を防ぐかもしれません。

司法・刑事制度は、社会で疎外された人々に取り返しのつかない損害を与える余地が最も大きく、この原則に特に注意すべきです。

「適切な場合には利用を拒否でき、遭遇した問題を迅速に検討・是正できる人にアクセスできるべきです。 適切な場合には自動化システムより人の代替を選べるべきです。適切性は状況での合理的期待に基づき、広いアクセス確保と特に有害な影響からの保護を重視すべきです。法律で人その他の代替が必要な場合もあります。システムが失敗・誤作動したり、その影響に異議申立てをしたい場合、予備的手続きと問題を上位へ引き継ぐ仕組みによって、適時に人の検討と救済を受けられるべきです。これらは利用可能、公平、有効で、維持され、適切な運用者研修を伴い、一般の人々に不合理な負担を課すべきではありません。刑事制度、雇用、教育、健康などの機微な分野のシステムはさらに、目的に適合し、実質的な監督へのアクセス、関わる全員の研修、不利または高リスクな判断の人による検討を含むべきです。こうした人による管理手続きと、その適時性、利用可能性、結果、有効性の評価を含む報告は可能な限り公表すべきです。」

まとめ

OSTPは、機械学習の進歩を妨げかねない過酷な政策を導入せず、社会に必要な安全の手続きを結び付ける枠組みを作ろうとした点で評価されるべきです。

原則の後には、論点についての技術的な補足、各原則の詳しい情報、実施へ進むための最善の方法が提示されています。

賢明な事業主と企業はこの文書を研究すべきです。これらの政策をできる限り早く導入することは有益だからです。

説明可能なAIの重要性は、文書の次の引用のように今後も高まり続けるでしょう。

「連邦政府全体で、各機関は説明可能なAIシステムの研究を行い、支援しています。NISTはAIの説明可能性の基礎研究を進めています。学際的研究チームは、その中核原則の実施を支える測定法や最善の実務を開発しようとしています。国防高等研究計画局(DARPA)の説明可能なAIプログラムは、高い学習性能(予測精度)を保ちつつ説明しやすいモデルを作る機械学習手法を生み、人が新世代のAIパートナーを理解し、適切に信頼し、効果的に管理できるようにすることを目指します。全米科学財団のAIの公平性プログラムも、説明可能なAIの研究基盤に特に関心を寄せています。」

見落としてはならないのは、ここに示された原則が最終的に新しい標準になるという点です。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。