ホワイトハウスのAI人権宣言がアメリカと世界に与える影響

ホワイトハウスの科学技術政策局（OSTP）は最近、”AI人権宣言のためのブループリント：自動システムをアメリカ国民のために機能させる”という白書を発表しました。このフレームワークは、OSTPが「AIパワードワールドのための権利宣言」を開発するプロセスの開始を発表してから1年後にリリースされました。

この法案の序文は、ホワイトハウスがAIによって社会に及ぼされる迫り来る脅威を理解していることを明確に示しています。この序文には以下のように記載されています。

“民主主義に課せられる大きな課題の一つは、テクノロジー、データ、自動システムを利用してアメリカ国民の権利を脅かす方法で使用することです。しばしば、これらのツールは機会を制限し、または重要なリソースやサービスへのアクセスを妨げるために使用されます。これらの問題はよく文書化されています。アメリカや世界中で、患者ケアを支援するために設計されたシステムは、安全でない、効果的でない、または偏ったことが証明されています。採用や信用判断に使用されるアルゴリズムは、既存の不平等を反映したり、新しい有害な偏見や差別を埋め込んだりすることが発見されています。チェックされないソーシャルメディアのデータ収集は、機会を脅かしたり、プライバシーを侵害したり、または知らないうちに活動を徹底的に追跡したりするために使用されてきました。”

このAI人権宣言とその提案するフレームワークがAIの将来に与える影響はまだ見通せません。わかっていることは、新しい開発が指数関数的に進化していることです。以前は不可能と思われていた即時言語翻訳は現在現実になり、OpenAIとその有名なプラットフォームGPT-3によって自然言語理解（NLU）の革命が起こっています。

その後、即時画像生成がStable Diffusionという技術によって可能になりました。これは将来的に主流の消費者製品になる可能性があります。つまり、ユーザーは想像できる任意のクエリを入力するだけで、AIがクエリに合う画像を生成します。

指数関数的成長と加速収束の法則を考慮すると、AIが日常生活のすべての側面を支配する時代が近い将来来ることになります。 このパラダイムシフトを認識し、利点を得る個人は企業は利益を得るでしょう。残念ながら、社会の広範なセグメントは、AIの悪意のある、または予期せぬ結果の犠牲者になる可能性があります。

AI人権宣言は、自動システムの構築、展開、統治において市民の権利を保護し、民主的な価値観を促進する政策と慣行を支援することを目的としています。中国のアプローチと比較した場合、この法案はAIの風景を変える可能性があり、オーストラリア、カナダ、EUなどの同盟国によって採用される可能性があります。

ただし、AI人権宣言は非拘束力であり、米国政府の政策を構成しないことになります。既存の法令、規制、政策、または国際文書の解釈を変更または修正するものではありません。つまり、企業や政府がこの白書に記載された政策に従う必要があります。

この法案では、自動システムの設計、使用、展開を導くべき5つの原則を特定しました。これらは以下のとおりです。

1. 安全で有効なシステム

AIシステム、特にディープラーニングを使用するものは、社会に明らかな危険をもたらします。これに対処するために、これらの原則が提案されています。

“あなたは安全でない、または有効でないシステムから保護されるべきです。自動システムは、多様なコミュニティ、利害関係者、ドメインの専門家からのコンサルテーションを通じて、システムの懸念、リスク、および潜在的な影響を特定するために開発されるべきです。システムは、展開前のテスト、リスクの特定と軽減、および継続的な監視を経て、安全で有効であることを示すべきです。”

2. アルゴリズムによる差別の保護

これらの政策は、企業が個人を利用する問題に対処することを目的としています。

AIシステムを使用してスタッフを採用する場合、ディープラーニングシステムはしばしば偏ったデータに基づいて採用の結論を導き出します。これは、過去の採用慣行が性別や人種による差別につながることを意味します。一つの研究では、トレーニングデータを性別を特定できないようにすることの難しさを示しました。

政府による偏ったデータの別の核心的な問題は、不当な逮捕のリスク、または犯罪予測アルゴリズムによる長期の刑期が与えられる可能性があります。

“あなたはアルゴリズムやシステムによる差別を受けるべきではありません。設計者、開発者、自動システムの展開者は、個人やコミュニティをアルゴリズムによる差別や不公平な扱いから保護するための積極的かつ継続的な措置を講じるべきです。”

米国はAIに対する非常に透明性の高いアプローチを取っています。これは、中国がAIを法制度に導入するアプローチとは対照的です。

3. データプライバシー

このデータプライバシーの原則は、人口の最大のセグメントに影響を与える可能性があります。この原則の前半は、特にインターネット上で収集されたデータ、特にソーシャルメディアプラットフォームの既知の問題に関係しています。

“あなたはデータの悪用的な慣行から保護されるべきです。設計者、開発者、自動システムの展開者は、データ収集が妥当な期待に合致するようにするべきです。データ収集は、特定のコンテキストに必要なデータのみを収集するように設計されるべきです。”

データプライバシーの原則の後半は、政府や企業による監視に関係しています。

現在、企業は従業員を監視し、時には職場の安全性を向上させるために行います。ただし、従業員は過度に監視されていると感じることがあります。

“あなたのデータと関連する推論は、健康、仕事、教育、刑事司法、財政などの機密性の高いドメインで、必要な機能にのみ使用されるべきです。”

AIはプライバシーを保護するために良い方法で使用できます。

4. 通知と説明

これは、企業がAI倫理アドバイザリーボードを展開し、説明可能なAIの開発を加速するために呼びかけです。説明可能なAIは、AIモデルが間違いを犯した場合に、AIがどのように機能するかを理解するために不可欠です。

説明可能なAIは、データがどのように使用されているか、そしてAIが決定を下した理由について透明性のある情報を共有することも可能にします。説明可能なAIがなければ、これらのポリシーに準拠することは不可能です。

企業がこれらのシステムを改善することに重点を置くと、AIアルゴリズムが特定の決定を下した理由の背後にあるニュアンスと複雑さを理解することによるプラスの利点も得られます。

“あなたは自動システムが使用されていることを知るべきです。また、自動システムがどのように機能し、結果にどのように貢献するかを理解するべきです。設計者、開発者、自動システムの展開者は、自動システムの役割、システムの責任者、結果の説明について、一般的にアクセス可能なプレーンテキストのドキュメントを提供するべきです。”

5. 人間による代替、考慮、フォールバック

これは、政府機関や政府のために働く民間機関に最も適用されます。

AI倫理委員会や説明可能なAIがあっても、命がかかっている場合には、人間によるレビューに頼ることが重要です。エラーの可能性は常にあり、人間によるレビューは、AIが誤った人を刑務所に送るようなシナリオを回避するのに役立ちます。

司法および刑事システムは、社会の疎外されたメンバーに不可逆的な損害を与える可能性があるため、この原則に特に留意する必要があります。

“あなたは自動システムからオプトアウトし、問題を迅速に考慮し、是正することができる人間にアクセスできるべきです。自動システムは、人間の代替案を必要とする場合には、オプトアウトすることができるべきです。”

まとめ

OSTPは、社会に必要な安全プロトコルを導入し、同時にAIの開発の進歩を妨げる厳しい政策を導入しないという枠組みを導入しようとしたことに功績があります。

原則が説明された後、法案は技術的な問題に対する伴奏書を提供し、各原則とこれらの原則を実装するための最良の方法について詳細な情報を提供します。

賢明な事業主と企業は、この法案を研究することに注目するべきです。これらのポリシーをできるだけ早く実装することは、有利に働くからです。

説明可能なAIは、重要性の点で支配的続けるでしょう。これは、この法案からの引用からも明らかです。

“政府全体で、説明可能なAIシステムに関する研究が行われています。NISTは、AIシステムの説明可能性に関する基礎的な研究を実施しています。多学際的な研究チームは、説明可能なAIの実装を支援するための測定方法とベストプラクティスを開発することを目的としています。”

見落とさないでください。最終的に、この中で説明されている原則は、新しい標準になるでしょう。