ブラッドフォード・ニューマン、ノースアメリカ・トレード・シークレツ・プラクティス委員長 – インタビュー・シリーズ

ブラッドフォードは、トレードシークレツと人工知能に関連する事項を専門としています。彼はABAのAIサブ委員会の委員長です。2019年にデイリー・ジャーナルによってカリフォルニアでトップ20のAI弁護士の1人として認められ、ブラッドフォードは2018年に米国下院議会の討論草案法案になった連邦AI職場および知的財産法案を提案する上で重要な役割を果たしました。また、アルゴリズムの公平性を確保するためのAI監視および企業統治のベストプラクティスを開発しました。

あなたの興味を人工知能に惹かせたのは何でしたか？

私は多年にわたり、世界をリードするAI製品およびテクノロジーのイノベーターおよび生産者を代理してきました。私の興味は常に、カーテンの後ろに立ち、機械学習の法的および技術的側面を理解し、AIの進化を見守ることでした。私は、さまざまなドメインでの応用が可能なことに関心があります。

あなたは、特に公衆衛生を保護する規制に関して、人工知能の合理的規制の強烈な擁護者です。いくつかの主要な懸念について話してください。

私は、人類が経験した最も深刻な革命の初期段階にあります。AIは、私たちの生活のあらゆる側面に影響を及ぼす可能性があります。目覚める朝から寝る夜まで、そして寝ている間までです。AIの多くの応用は、私たちの生活の質を向上させ、そしておそらく私たちの種の寿命を延ばすでしょう。

現在、コンピューターサイエンスと機械学習の観点から、人間はまだプロセスに関与しています。アルゴリズムをコーディングすることから、トレーニングデータセットを理解することから、結果を処理することから、欠点を認識することから、テクノロジーを製品化することまでです。

しかし、私たちは2つの主要なフロントで時間との戦いをしています。第一に、一般的に「ブラックボックス問題」と呼ばれるものがあります。AIの複雑さ（ANNを考えてください）が進化するにつれて、人間の関与とAIの理解は減少します。第二に、AIの使用は、政府や私的利益によって増加します。

私の懸念は、AIが、故意にまたは無意的に、西洋の民主主義的な個人の自由と自由の理想に反する方法で使用されることです。

これらの懸念をどのように解決しますか？

社会は、AIに関して何が可能かではなく、どれが禁止され、または部分的に制限されるべきかを決定する時期に来ています。

第一に、アルゴリズムの出力によって全額または一部で決定されることができない決定を特定する必要があります。これは、データが入力され出力される際に完全に偏見がない、透明性があり、正確である状況でも、AIを使用して予測または実質的な決定を下すことを禁止する法律が必要です。

これは、数学的な確実性を求める世界では直感に反するかもしれませんが、AIの「フライゾーン」を確立することは、私たちが大切にする自由を保護するために不可欠です。

第二に、AI分析に基づいて行われる決定については、人間が決定プロセスに関与する必要があるものを明確に定義する法律が必要です。

あなたは2018年に米国下院議会の討論草案法案になった連邦AI職場および知的財産法案を提案する上で重要な役割を果たしました。いくつかの提案について話してください。

AIデータ保護法は、イノベーションを促進し、人工知能の性質と使用について透明性を高め、公衆の信頼を築くことを目的としています。さらに、AIが労働市場に与える影響に取り組み、公衆衛生と安全を保護することを目的としています。

この法律には、いくつかの重要な要素があります。たとえば、企業がAIのみに頼って決定を下すことを禁止し、雇用や医療治療の拒否または制限に関する決定を含みます。また、AIに関する公衆衛生と安全の規制を担当する新しい連邦機関であるAI委員会を設立します。さらに、企業はAI長官を任命する必要があります。

あなたはまた、アルゴリズムの公平性を確保するためのAI監視および企業統治のベストプラクティスを開発しました。現在、AIシステムにおける公平性または偏見に関するいくつかの問題について話してください。

このテーマは、学者から激しい注目を集めており、現在は米国政府機関の関心も集めています。ほとんどの場合、偏見の原因は、トレーニングデータセットの欠陥またはテスト環境の理解と透明性の欠如に起因します。これは、上級管理職によるAIの中央集権的な所有権と監督の欠如によって悪化しています。

この技術的な理解と状況認識の欠如は、重大な責任問題です。私は、AI偏見のケースを探しているいくつかの著名な原告側弁護士と話をしました。

ディープラーニングは、ブラックボックス問題に苦しんでいます。人工ニューラルネットワーク（ANN）にデータを入力し、出力が生成されますが、その出力がどのように生成されたかはわかりません。この問題は重大なものですか？

はい。アルゴリズムとニューラルネットワークが進化し、人間がループから除外されるにつれて、重要な機能と出力の要素を理解できなくなるリスクがあります。

COVID-19の影響で、世界中の国がAIを搭載した国家監視システムを導入しています。このような監視の潜在的な濫用についてどれほど懸念していますか？

個人の権利と自由の観点から、このリスクを無視したり軽視したりすることは、無謀で、実際には無責任です。コンテクストトレーシングは、世界的パンデミックの最中に適切であり、AIベースの顔認識は、人間が独自に達成できない効果的な措置を提供しますが、社会は、濫用に対する法的禁止と、有効な監督および執行メカニズムを確立する必要があります。そうでない場合、私たちは国家に、私たちが最も大切にする基本的な権利と自由の基本的な要素を明け渡すことになります。これらの権利と自由を一括で与えたら、もう取り戻すことはできません。

あなたは以前、「私たちがアメリカ人として大切にする自由を守るために、AIの「フライゾーン」を確立する必要がある」と述べました。いくつかの懸念について話してください。

AIについて話すときは、常にAIの基本的な目的、つまり、大きなデータセットから予測分析を生成し、それを使用して人間を分類して決定を下すことに焦点を当てる必要があります。次に、決定を下す人、決定する内容、決定の根拠について考える必要があります。

決定を下す人が、私たちの健康、生計、自由に最も大きな影響を与える人々であることを理解することは容易です。雇用主、家主、医師、保険会社、法執行機関、その他、AI分析を生成、収集、または購入できるすべての私的、商業的、政府機関です。西洋の自由民主主義では、AIのみに頼るべきでない決定があることは明らかです。

明らかな決定は、犯罪を犯す前に誰かを投獄することを禁止することなどが挙げられますが、AIの広範な採用は、倫理的なジレンマのより複雑な例を提示します。たとえば、アルゴリズムが、ソーシャルメディアにビーチバカンスの写真を投稿し、アルコールを飲んでいる従業員が、仕事を辞めたり解雇されたりする平均3.5年前に、仕事を投稿している従業員よりも早く昇進や昇給を拒否されるべきでしょうか？アルゴリズムが、1日2時間以上ビデオゲームをプレイするティーンエイジャーは、4年制大学を卒業する可能性が低いと判断した場合、昇進や昇給を拒否されるべきでしょうか？アジア人の女性が60代で、ICUに入院したCOVID-19の症状で、70代のアフリカ系アメリカ人の男性よりも生存率が高いと判断された場合、女性には優先的な医療治療を受けるべきでしょうか？

これらの単純化された例は、AIのみに頼る決定が、私たちの個人の人権の見方と矛盾する、数多くの決定のうちのわずか数例です。

AIまたはベイカー・マッケンジーについて、他に何か共有したいことはありますか？

ベイカー・マッケンジーの真正に国際的なAIプラクティスをリードすることを支援することに非常にエネルギーを感じています。私たちは、クライアントがAIに関するすべてのこと、契約交渉、内部監視の確立、偏見の回避、現行の国内および国際的な規制枠組みの理解についての指導を求めていることを認識しています。

企業は正しいことをしたいと思っていますが、AIと機械学習について必要な専門知識と理解を持つ法務はほとんどありません。私たちがAIのジャンキーであり、かつ弁護士である場合、これはクライアントに実際の価値を提供するための興奮する時期です。

これらの主要な社会的懸念に関する素晴らしい答えをありがとう。ブラッドフォード・ニューマンについてもっと知りたい読者は、こちらをクリックしてください。