倫理
ホワイトハウスのAI人権宣言がアメリカと世界に与える影響
ホワイトハウス科学技術政策局（OSTP）は最近、「AI人権宣言のためのブループリント：自動化システムをアメリカ国民のために活用する」と題した白書を発表しました。このフレームワークは、OSTPが「AIによる世界のための権利宣言」を開発するプロセスを開始してから1年後に発表されました。
この宣言の序文は、ホワイトハウスがAIによって社会に与えられる迫り来る脅威を理解していることを明確に示しています。序文には以下のように述べられています。
「今日、民主主義に課せられる大きな課題の1つは、技術、データ、自動化システムを利用してアメリカ国民の権利を脅かすことです。多くの場合、これらのツールは、機会を制限したり、重要な資源やサービスへのアクセスを妨げたりするために利用されています。これらの問題はよく知られています。アメリカや世界中で、患者ケアを支援するために設計されたシステムは、安全でない、効果的でない、または偏ったことが証明されています。採用や信用判断に使用されるアルゴリズムは、既存の不平等や新しい有害な偏見や差別を反映し、または再生産することが発見されています。ソーシャルメディアのデータ収集は、人の機会を脅かしたり、プライバシーを侵害したり、または知らないうちに活動を追跡したりするために利用されています。」
このAI人権宣言とその提案するフレームワークがAIの未来に与える影響はまだ見通せません。ただし、新しい開発は指数関数的に進化しています。かつて不可能と思われていた瞬間の言語翻訳は現実になり、OpenAIとその著名なプラットフォームGPT-3によって自然言語理解（NLU）の革命が起こっています。
その後、Stable Diffusionというテクニックを使用した画像の瞬間生成が登場しました。これは将来、主流の消費者製品になる可能性があります。基本的に、このテクニックでは、ユーザーは想像できる任意のクエリを入力し、AIはそのクエリに応じた画像を生成します。
指数関数的成長と加速収束の法則を考慮すると、AIが日常生活のすべての側面を支配する時代がやって来るでしょう。その時代に備えて、個人がこのパラダイムシフトを理解し、活用することが重要です。そうでないと、AIの悪影響に苦しむ人々が現れる可能性があります。
AI人権宣言は、自動化システムの構築、展開、統治において、民間人の権利を保護し、民主的な価値観を促進する政策と慣行を支援することを目的としています。この宣言が中国のアプローチと比較してどうなるかはまだ見通せませんが、AIの景観を変える可能性のある権利宣言です。オーストラリア、カナダ、EUなどの同盟国によって採用される可能性もあります。
ただし、AI人権宣言は非拘束力であり、米国政府の政策を構成しないことには注意する必要があります。既存の法律、規制、政策、または国際機関を変更、修正、または解釈するものではありません。これは、企業や政府がこの白書に概説された政策に従う必要があることを意味します。
この宣言では、自動化システムの設計、使用、展開を導くべき5つの原則を特定しました。これらの原則は、AIの時代にアメリカ国民を保護するために不可欠です。
1. 安全で効果的なシステム
AIシステム、特にディープラーニングを利用するシステムは、社会に明らかな危険をもたらします。この原則は、この問題に対処しようとしています。
「あなたは、安全でない、または効果的でないシステムから保護されるべきです。」 自動化システムは、多様なコミュニティ、利害関係者、分野の専門家からの意見を取り入れ、システムの懸念、リスク、潜在的な影響を特定することで開発されるべきです。システムは、展開前のテスト、リスク特定、緩和、継続的な監視を受けるべきであり、安全で効果的であることを示すべきです。安全で効果的でないシステムは、展開されず、または使用から除去される可能性があります。自動化システムは、あなたの安全やあなたのコミュニティの安全を危険にさらす意図や、予測可能な可能性を持たせてはなりません。予測可能な使用や影響から生じる危害からあなたを積極的に保護するように設計されるべきです。データの不適切な使用や、不適切なデータの再利用からあなたを保護するべきです。システムの安全性と有効性を確認するための独立した評価と報告が行われ、結果が可能な限り公開されるべきです。
2. アルゴリズムによる差別の保護
これらの政策は、企業が個人を利用する問題に対処しています。
AIシステムを使用してスタッフを採用する場合、ディープラーニングシステムは偏ったデータに基づいて採用の結論を出すことがあります。これは、過去の採用慣行が性別や人種による差別につながる可能性があることを意味します。ある研究では、トレーニングデータから性別を除去することの難しさを示しています。
政府による偏ったデータの別の問題は、誤った逮捕のリスク、または犯罪予測アルゴリズムによる長期の刑期が与えられる可能性があります。
「あなたはアルゴリズムによる差別に直面してはなりません。システムは公平な方法で設計され、使用されるべきです。」 アルゴリズムによる差別は、自動化システムが人種、色、民族、性別（妊娠、出産、関連する医療条件、性同一性、インターセックス状態、性的指向）、宗教、年齢、国籍、障害、退役軍人状態、遺伝情報、または法律で保護されている他の分類に基づいて、不当な扱いまたは影響を受けることです。設計者、開発者、自動化システムの展開者は、個人やコミュニティをアルゴリズムによる差別から保護するための積極的で継続的な措置を講じるべきです。これには、システム設計の一部としての公平性評価、代表的なデータの使用、人口統計特徴の代理の保護、障害者のためのアクセシビリティの確保、展開前の不均衡テストと緩和、明確な組織的監督が含まれます。独立した評価と、差別テスト結果や緩和情報を含む平易な言語での報告が行われ、可能な限り公開されるべきです。
3. データプライバシー
このデータプライバシーの原則は、最も多くの人々に影響を与える可能性があります。最初の部分は、特にインターネットを介したデータ収集に関する問題に対処しています。同様のデータは、広告を販売するために、またはより悪い場合、世論を操作し、選挙に影響を与えるために使用される可能性があります。
「あなたは、組み込まれた保護によって、データの乱用的な慣行から保護されるべきです。また、データの使用方法についての管理権を持つべきです。」 あなたは、デフォルトで保護が組み込まれた設計選択によって、プライバシーの侵害から保護されるべきです。データの収集は、妥当な期待に従い、特定の状況に必要なデータのみが収集されるべきです。自動化システムの設計者、開発者、展開者は、データの収集、使用、アクセス、転送、削除に関するあなたの決定を尊重し、可能な限りあなたの許可を求めるべきです。システムは、ユーザーが選択を困難にしたり、プライバシーの侵害的なデフォルトでユーザーを負担させたりするような、ユーザー体験や設計上の決定をすべきではありません。同意は、データの収集を正当化するために使用されるべきではありません。同意の要求は、簡潔で、平易な言語で理解できるべきであり、データの収集と特定の状況の使用についての管理権をあなたに与えるべきです。現在の、難しいことに理解することのできない通知と選択の慣行は、データの広範な使用のために変更されるべきです。
このデータプライバシーの原則の2番目の部分は、政府や企業による監視に関する問題に対処しています。
現在、企業は従業員を監視し、時には職場の安全性を向上させるために行います。COVID-19のパンデミックの際は、マスクの着用を強制するために行われましたが、通常は、勤務時間の使用を監視するために行われます。多くの場合、従業員は、許容される以上に監視され、管理されていると感じています。
「感染症、仕事、教育、刑事司法、金融などの感染症のある分野に関するデータや推論、若者に関するデータについては、強化された保護と制限があって然り。感染症のある分野では、あなたのデータや関連する推論は、必要な機能にのみ使用されるべきであり、倫理的なレビューと使用の禁止によってあなたを保護されるべきです。あなたやあなたのコミュニティは、チェックされていない監視から自由でなければなりません。監視技術は、少なくともあなたのプライバシーと市民的自由を保護するために、展開前の潜在的な危害と範囲の制限の評価を含む、強化された監督を受けるべきです。継続的な監視や監視は、教育、仕事、住宅、または監視技術の使用が権利、機会、またはアクセスを制限する可能性のある他の状況では使用されずにすべきです。可能な限り、あなたは、データの決定が尊重されたことを確認し、監視技術があなたの権利、機会、またはアクセスに与える潜在的な影響を評価する報告書にアクセスできるべきです。」
4. 通知と説明
これは、企業がAI倫理アドバイザリーボードを展開し、説明可能なAIの開発を加速するための呼びかけです。説明可能なAIは、AIモデルが間違いを犯した場合に、問題を簡単に診断できるようにするために不可欠です。
説明可能なAIは、データの使用方法についての透明性のある情報の共有を可能にし、AIが決定を下した理由についても説明できます。説明可能なAIがなければ、これらの政策に従うことは不可能です。なぜなら、ディープラーニングのブラックボックス問題があるからです。
システムを改善することに重点を置く企業は、ディープラーニングアルゴリズムが特定の決定を下した理由の背後にあるニュアンスや複雑さを理解することで、プラスの利益を得ることができます。
「あなたは、自動化システムが使用されていることを知り、また、それがあなたに影響を与える結果にどのように貢献しているかを理解できるべきです。」 自動化システムの設計者、開発者、展開者は、一般的にアクセス可能な平易な言語の文書化を提供するべきです。これには、システムの全体的な機能と自動化が果たす役割の明確な説明、システムの使用に関する通知、システムの責任者、結果の説明が含まれます。通知は最新の状態に保たれ、システムの使用や重要な機能の変更について影響を受ける人々に通知されるべきです。自動化システムによって決定された結果について、技術的に妥当で、有用で、かつ、リスクに基づいて適切に調整された説明を提供するべきです。通知と説明の明確性と品質に関する報告が行われ、可能な限り公開されるべきです。
5. 人間による代替、考慮、フォールバック
この原則は、政府機関や政府の代理として働く民間機関に最も適用されます。
AI倫理委員会や説明可能なAIがあっても、命がかかっている状況では、人間によるレビューに頼ることが重要です。エラーの可能性は常にあり、人間によるレビューが、AIが間違った人を刑務所に送るようなシナリオを避けることができます。
司法や刑事制度は、社会の疎外されたメンバーに不可逆的な損害を与える可能性があるため、この原則に特に注意する必要があります。
「あなたは、適切な場合には、自動化システムからオプトアウトし、問題を迅速に考慮し、是正することができる人にアクセスできるべきです。」 あなたは、人間による代替の選択肢を選択できるべきです。適切性は、特定の状況に基づいて決定されるべきであり、幅広いアクセシビリティを確保し、公共から特に有害な影響を保護することに重点を置くべきです。場合によっては、法律によって人間による代替が必要となる場合があります。自動化システムが故障したり、エラーを生じたり、またはあなたが影響を受けた場合には、迅速な人間による考慮とフォールバックのプロセスにアクセスできるべきです。人間による考慮とフォールバックは、アクセス可能で、公平で、効果的で、維持され、適切なオペレーターのトレーニングが行われ、公共に不当な負担を課さないべきです。感染症のある分野、特に刑事司法、雇用、教育、健康分野での使用を目的とした自動化システムは、さらに目的のためにカスタマイズされ、監視への有意義なアクセスを提供し、システムとやり取りする人々のためのトレーニングを含み、高リスクの決定のための人間による考慮を組み込むべきです。人間によるガバナンスプロセスの説明と、タイムリー性、 アクセシビリティ、結果、有効性の評価を含む報告が行われ、可能な限り公開されるべきです。
要約
OSTPは、社会に必要な安全プロトコルを導入しようとするものの、機械学習の開発を妨げるような厳しい政策を導入しないという枠組みを提供したことに功績があります。
原則が概説された後、宣言は、議論されている問題の技術的な伴侶を提供し、各原則とこれらの原則を実装するための最良の方法について詳細な情報を提供します。
賢明な事業主や企業は、この宣言を注意深く調査するべきです。なぜなら、これらの政策をできるだけ早く実装することは、有利に働くからです。
説明可能なAIは、重要性を維持し続けるでしょう。宣言からの以下の引用が示すようにです。
「政府全体で、説明可能なAIシステムに関する研究が行われています。」 NISTは、AIシステムの説明可能性に関する基礎的な研究を実施しています。研究者チームは、説明可能なAIの核となる教義を支援するための測定方法とベストプラクティスを開発することを目的としています。DARPAには、予測の精度を維持しながら、より説明可能なモデルを生成するための機械学習の技術のスイートを開発することを目的とした、説明可能なAIプログラムがあります。NSFのAIの公平性プログラムには、説明可能なAIの研究基盤への特定の関心があります。
見落とされるべきではないのは、これらの原則が最終的に新しい標準になるということです。
