レイド・ブラックマン、Ph.D、バーチュー・コンサルタントの創設者兼CEO – インタビュー・シリーズ

Reid Blackmanは、Virtue Consultantsの創設者兼CEOです。その役割では、企業が倫理と倫理的リスク軽減を企業文化および新興技術製品の開発、展開、調達に統合するのを支援しています。また、エルンスト・アンド・ヤングのシニア・アドバイザーであり、人工知能諮問委員会のメンバーであり、IEEEの倫理的設計イニシアチブのメンバーでもあります。

レイドの仕事は、ウォール・ストリート・ジャーナルやデルの観点で取り上げられ、彼はハーバード・ビジネス・レビュー、テッククランチ、ベンチャービート、リスク＆コンプライアンス・マガジンに寄稿しています。彼は数多くのニュース・アーティクルで引用されており、世界経済フォーラム、SAP、カンヌ・ライオンズ、フォーブス、ニューヨーク大学スターン・ビジネス・スクール、コロンビア大学、アIGなど様々な会場で定期的に話しています。

2009年から2018年までコレート大学の哲学教授でした。AI倫理を授業に取り入れることをいつから始めましたか?

私は社会・政治哲学の授業をよく教えていました。そこではマルクスについて扱っていました。マルクスの中心的な主張の1つは、資本主義は最終的に共産主義に取って代わられるというものです。つまり、競争と新しい市場の開拓のために、より効率的な「生産手段」の創出が進み、技術の創出が進むということです。マルクスはまた、資本主義が富の集中を進め、多くの人々を貧困に追い込むことになり、最終的に資本主義構造が崩壊することを予測しました。すべてこれらは、人間の労働の必要性を排除する技術の倫理についての議論につながります。これはAI倫理の中心的な要素です。

ちょっとした話ですが、2002年にノースウェスタン大学でマルクスの授業を受け持っていました。ある学生が手を上げて「最終的には人間が仕事をする必要はない」と言いました。クラスは混乱しました。私は混乱しました。そこで「那么誰が仕事をするんですか？」と尋ねました。彼は冷静に「ロボットです」と言いました。クラスは爆笑しました。私は自分の笑いを抑えました。しかし、最後に笑ったのは誰だったかは明らかです。

2018年に、Virtue Consultantsを立ち上げました。これは、データとAIのリーダーが製品の倫理的リスクを特定し、軽減するのを支援する倫理コンサルティング会社です。この起業家的な旅を始めることをどうやって思いつきましたか?

嫉妬です。ある意味では、グラデュエート・スクールの頃、2003年か2004年頃に花火の卸売会社を始めました。その会社は予想よりもうまくいきました。今はアドバイザーとして日々の業務には関与していません。しかし、それは私がコレート大学の起業家プログラム（Thought Into Action、TIA Venturesのアンディ・グリーンフィールドとウィルズ・ハップワースが主催）でスタートアップにメンターすることになった理由です。メンターとして、学生たちが起業するためのプロジェクトに取り組むのを見て、私も同じようなことをしたいと思いました。でも、私の新しいベンチャーは何になるでしょうか？ 私の哲学と倫理への愛を反映するものでなければなりません。最初に思いついたのは、倫理コンサルティングでした。 当時、市場は見えませんでした。なので、待ちました。 そして、ケンブリッジ・アナリティカ、BLM、#MeTooが全国的な注目を集め、突然、必要性が高まりました。

企業がAI倫理声明を導入することはどれくらい重要ですか?

AI倫理声明は必須ではありませんが、目標を設定するための非常に有用なツールです。AI倫理プログラムを組織に導入する際、倫理的、評判的、規制的、法的リスクを特定し、軽減し、管理したいと考えます。その機能のために、インフラ、プロセス、慣行が整っていることを確認したいと考えます。目標を設定する必要がある戦略の場合、AI倫理声明は目標を明確にするための良い方法ですが、唯一の方法ではありません。

企業が倫理声明をプロセスや実践に移行させる方法は?
倫理声明は正しい方向への小さな一歩です。次の自然なステップは、声明で述べられた目標に比べて、どこにいるかを評価することです。目標から大きく外れている、リスクの高いギャップがどこにあるかを把握したら、ギャップを埋めるための解決策を考え始めることができます。もしかしたら、倫理委員会かもしれません。もしかしたら、製品開発中のデューデリジェンス・プロセスかもしれません。もしかしたら、マーケティングや人事などの非製品部門でデータを扱う方法を改善することかもしれません。多分、それらすべてです。

企業がAIアルゴリズム自体に偏見を避けるための解決策は?

偏見を特定するための技術ツールはありますが、限界があります。モデル出力を数十の量的指標と比較することができますが、注意が必要です。これらの指標は相互に互換性がありません。したがって、実質的な倫理的決定が必要です。どの指標がこのコンテキストで適切かを判断する必要があります。

ツールを使用する以外に、製品チームは、偏見がどのようにして潜り込む可能性があるかを考える必要があります。トレーニング・データセットの中でどうやって制限できるか。目的関数を決定する際にどうやって制限できるか。閾値を決定する際にどうやって制限できるか。偏見が潜り込む可能性がある場所はたくさんあります。現在のプロジェクトでそれがどこにあるかを考えることが、偏見を特定し、軽減するために不可欠です。

AI企業は、白人男性によって支配されていることが多く、無意識に偏見をプログラムに組み込むことがあります。偏見を避けるために、人事部門が探すべき特性は?

私は、エンジニアや製品チームの多様性を増やすことに賛成です。しかし、問題は、白人男性の偏見が偏ったコードにつながることではありません。問題は、トレーニング・データセットが偏っていることです。実際、コロンビア大学の最近の論文「偏ったプログラマー？それとも偏ったデータ？AI倫理の実践的実験」は、「プログラマーが技術的なガイダンスを理解し、偏見を減らすことができる」と結論付けています。また、「女性やマイノリティのAIプログラマーによるアルゴリズミックな予測は、アルゴリズミックな偏見や差別を示さない」とも述べています。したがって、人事部門は多様性の問題に注意する必要がありますが、偏ったAI出力を減らす戦略は、多様性に関する採用決定に主に焦点を当てるべきではありません。

倫理的リスク・デューデリジェンスとは何ですか？企業がそれを実施する理由は?

倫理的リスク・デューデリジェンスとは、製品の特徴（あるいはその欠如）を分析し、さまざまなコンテキストで展開されたときにどのように倫理的な不正行為につながる可能性があるかを特定する試みです。製品の開発、展開、使用、誤用など、さまざまなリスクを特定したいと考えています。うまく行えば、体系的で徹底的な検査になります。もちろん、最善を尽くして隅を見ようとしても、見逃すことがあるかもしれません。そのため、継続的なモニタリングが重要です。

企業がそれを実施する理由は、実施しない場合の倫理的、評判的、規制的、法的リスクを考慮する必要があるからです。Optumがニュースで取り上げられ、偏ったアルゴリズムで規制調査を受けていることを考えます。あるいは、Goldman SachsがApple Cardの信用限度で女性に対する差別的であると調査されていることを考えます。あるいは、Amazonの採用ソフトウェアが展開前に偏りの懸念で却下されたことを考えます。あるいは、IBMが天気アプリで収集されたデータの不正使用でロサンゼルスに訴えられていることを考えます。あるいは、Facebook…

バーチュー・コンサルタントについてさらに何か共有したいことはありますか?

Virtueは、AI倫理を実践する上で、トップリーダーを支援します。教育やスキルアップのサポート、AI倫理声明の作成、実行可能なAI倫理的リスク・フレームワークの作成、または単にAI倫理のアドバイザーとして。興味がある場合は、こちらに来てください。

この素晴らしいインタビューに感謝します。レイドについてさらに学びたい読者は、Reid Blackmanを訪問するか、Virtue Consultantsを訪問してください。