リード・ブラックマン、Ph.D、バーチュー・コンサルタンツの創設者兼CEO – インタビュー・シリーズ

リード・ブラックマンは、バーチュー・コンサルタンツの創設者兼CEOです。彼は、企業が倫理と倫理的リスク軽減を企業文化および新興技術製品の開発、導入、調達に統合するために協力してきました。また、エルンスト・アンド・ヤングのシニアアドバイザーであり、同社のAIアドバイザリーボードのメンバーであり、IEEEの倫理的設計イニシアチブのメンバーでもあります。

リードの仕事は、ウォール・ストリート・ジャーナルやデルの視点で紹介され、ハーバード・ビジネス・レビュー、TechCrunch、VentureBeat、リスク＆コンプライアンス・マガジンに寄稿しています。また、数多くのニュース・アーティクルで引用され、世界経済フォーラム、SAP、カンヌ・ライオンズ、フォーブス、ニューヨーク大学スターン・ビジネス・スクール、コロンビア大学、アIGなどの様々な会場で定期的にスピーカーを務めています。

2009年から2018年までコルゲート大学で哲学の教授を務めました。AI倫理を授業に取り入れたのはいつからですか?

私は社会哲学と政治哲学の授業をよく教えていました。そこではマルクスについて扱っていました。マルクスの中心的な主張の1つは、資本主義は最終的に共産主義に取って代わられるということです。つまり、資本主義は競争と新しい市場の開拓のために、より効率的な「生産手段」を追求します。これは、より多くの技術の創出を意味し、それらはより短い時間でより多くのものを生み出すことができます。マルクスはまた、資本主義が富を少数の人々の手に集中させ、多くの人々を貧困に追い込むことになり、最終的に貧困層の増大によって資本主義体制が転覆されるだろうと予測しました。すべてこれらは、人間の労働の必要性を技術が除去することの倫理についての議論につながります。これは、AI倫理の中心的な要素です。

興味がある場合は、小さな話をします。2002年に私はノースウェスタン大学で大学院生としてマルクスの授業を受けており、ある学生が手を上げて「最終的には人間が仕事をする必要はありません」と言いました。クラスは混乱していました。私は混乱していました。そこで私は「では、誰が仕事をするのでしょうか?」と尋ねました。彼は事実を述べるように「ロボットです」と返しました。クラスは爆笑しました。私は自分の笑いを抑えました。しかし、最後に笑ったのは誰だったかは明らかです。

2018年に、データとAIのリーダーが製品の倫理的リスクを特定し、軽減することを支援する倫理コンサルタントであるバーチュー・コンサルタンツを立ち上げました。この起業家的な旅を始めることができたのはどうしてですか?

嫉妬です。ある意味ではです。私は2003年または2004年頃に花火の卸売会社を始めました。その会社は今でも存続していますが、現在私はアドバイザーとして日常的な運営には関与していません。ただし、それは私がコルゲート大学の起業家プログラム（Thought Into Action、アンディ・グリーンフィールドとウィルズ・ハップワースが率いるTIA Ventures）のメンターになった理由を説明しています。メンターとして、私は学生たちが起業家精神に燃え、起業家精神を高めるために様々なプロジェクトに取り組むのを見てきました。私は「私もやってみたい」と思いました。しかし、私の新しいベンチャーは何になるでしょうか? 私の哲学と倫理への愛情を表現する必要がありました。最初に思いついたのは倫理コンサルタントでした。私は当時、市場の需要を見ていなかったので待ちました。そして、ケンブリッジ・アナリティカ、BLM、#MeTooが国民的注目を集め、突然需要が生まれたのです。

企業がAI倫理声明を導入することの重要性はどの程度ですか?

AI倫理声明は必須ではありませんが、目標を設定するための非常に有用なツールです。企業がAI倫理プログラムを導入する際には、さまざまな倫理的、評判的、規制的、法的リスクを特定し、軽減し、管理したいと考えています。倫理声明は、インフラストラクチャ、プロセス、慣行が整った後に、どのようなものになるかを表明するのに役立ちます。戦略には目標が必要です。AI倫理声明はその目標を表明するための素晴らしい方法です。ただし、それが唯一の方法ではありません。

企業が倫理声明をプロセスや慣行に移行させる方法は何ですか?
倫理声明は正しい方向への小さな一歩です。次の自然なステップは、声明で表明された目標に比べて、現在の状況を評価することです。最大の、最もリスクの高いギャップを特定することができます。つまり、目標を達成するために最もリスクのある分野を特定することができます。次に、そのギャップを埋めるための解決策を考えます。もしかしたら、倫理委員会を作るかもしれません。もしかしたら、製品開発中にデューデリジェンス・プロセスを作るかもしれません。もしかしたら、マーケティングや人事などの非製品部門でのデータの取り扱いを改善するかもしれません。多分、それらすべてが必要です。

企業がAIアルゴリズム自体に偏見を避けるための解決策は何ですか?

偏見を特定するための技術ツールはありますが、限界があります。学術的な機械学習倫理文献で提供されている数十の量的メトリックとモデル出力を比較できます。しかし、注意が必要です。なぜなら、これらのメトリックは相互に互換性がないからです。したがって、実質的な倫理的決定が必要です。どのメトリックがこの文脈では適切なのでしょうか?

そのようなツールを使用する以外に、製品チームは、偏見がどのように生じるかを考慮する必要があります。どのようにしてトレーニングデータセットに偏見が生じる可能性がありますか? 目的関数の決定ではどうでしょうか?閾値の決定ではどうでしょうか? 偏見が生じる可能性のある場所は多数あります。現在のプロジェクトで偏見が生じる可能性を事前に考慮し、どのようにしてそれを軽減できるかを考えることが不可欠です。

AI企業は、白人男性が支配的であることが多く、無意識の偏見をAIシステムにプログラムする可能性があります。偏見を避けるために、人事部門はどのような特性を探すべきですか?

私は、エンジニアや製品チームの多様性と機会の増加を支持しています。ただし、これは問題を間違った視点から見ていると思います。偏ったアルゴリズムの主な問題は、白人男性の偏見が偏ったコードにつながることではありません。問題は、トレーニングデータセットが偏っていることです。実際、コロンビア大学の最近の論文「偏ったプログラマー? または偏ったデータ? AI倫理の運用化に関するフィールド実験」は、「プログラマーが技術的な指導を理解することで、偏見を減らすことができる」と結論付けています。また、「女性やマイノリティのAIプログラマーによるアルゴリズム予測は、アルゴリズム的偏見や差別を示すことはありません」と述べています。したがって、人事部門は多様性の問題に注意する必要がありますが、偏ったAI出力を減らすための戦略は、多様性に関連する採用決定に主に焦点を当てるべきではありません。

倫理的リスクデューデリジェンスとは何ですか? 企業はそれを実施する必要がある理由は何ですか?

倫理的リスクデューデリジェンスとは、製品の開発、導入、使用、誤用などによって実現できるさまざまな倫理的リスクを特定するための試みです。製品の特徴、あるいはその欠如を検討し、それらがさまざまな状況で導入されたときに倫理的不正行為につながる可能性を評価します。うまく行われると、体系的かつ徹底的な検査となります。当然、最善を尽くして隅を探すことができますが、まだ見逃すことができるものがあるかもしれません。したがって、継続的な監視が重要です。

企業がそれを実施する理由は、実施しない場合に生じる倫理的、評判的、規制的、法的リスクを考慮する必要があるからです。Optumがニュースになり、規制調査の対象になったことを考えます。とされるには、 偏ったアルゴリズムが医療従事者に白人患者よりも病気の黒人患者に更多の注意を払うよう勧めたと言われています。または、ゴールドマン・サックスが調査されていることを考えます。とされるには、Apple (AAPL ) Cardの信用限度が女性に対して差別的であるとされています。または、Amazon (AMZN ) の採用ソフトウェアが導入前に偏見に関する懸念により却下されたことを考えます。または、IBMがロサンゼルスによって起訴されたことを考えます。とされるには、天気アプリから収集されたデータを不正に使用したとされています。または、Facebook…。

バーチュー・コンサルタンツについてさらに何か共有したいことはありますか?

(GS ) (META )

バーチューは、上級リーダーがAI倫理を実践するのを支援します。AI倫理の教育とスキル向上の支援、AI倫理声明の作成、実行可能なAI倫理的リスクフレームワークの作成、または単にAI倫理のアドバイザーとしての役割が含まれます。もし興味があるなら、こちらに来てください。

素晴らしいインタビュー、リードについてさらに学びたい読者は、リード・ブラックマンを訪問するか、バーチュー・コンサルタンツを訪問してください。