スタートアップがAIの監視ツールを作成し、エシカルなAIの使用を促進する

過去1年間で、AIの使用をエシカルな方法で行うようにすることへの注目が高まっているようです。GoogleとMicrosoft (MSFT ) は、最近、投資家にAIアルゴリズムの誤用や、設計が不十分なAIアルゴリズムが倫理的および法的リスクをもたらす可能性があることを警告しています。同時に、カリフォルニア州は、カリフォルニアの法執行機関による顔認識技術の使用を禁止する法律を制定しました。

最近、Arthurを含むスタートアップは、AIエンジニアが機械学習モデルのパフォーマンスを定量化および定性化するのを助けるツールを設計しようとしています。Wiredによると、Arthurは、AI開発者に、金融アプリケーションを設計する際に、投資または貸付決定における偏見を明らかにするなどの問題を発見するのを容易にするツールキットを提供しようとしています。

Arthurの努力は、AIの「ブラックボックス」問題に対処することを目的としています。AIのブラックボックス問題とは、伝統的なコードとは異なり、機械学習システムが特徴を動作にマッピングするが、その選択された動作の理由や特徴の解釈方法を明らかにしないことを指します。言い換えると、ブラックボックスシステムでは、アルゴリズムの実装が不透明です。

機械学習システムは、入力データからパターンを抽出してそれらのパターンについて推論することで動作します。これは、コンピューターが特定の数学関数を操作して自身のコードを書くことによって実現されます。この問題に対処するには、研究者やエンジニアは、機械学習ソフトウェアの動作の観察と分析を容易にするツールが必要です。Arthurのようなスタートアップは、この問題を解決するのが難しいことを認めていますが、進歩を遂げてブラックボックスを開くことを少し容易にすることを希望しています。AIシステムを分析するのが容易になれば、偏見などの問題を修正するのが容易になる可能性があります。

Facebookのような大手企業には、機械学習システムの内部動作を分析するツールがすでにあります。たとえば、Facebookには、Fairness Flowというツールがあり、仕事の募集広告がすべての背景を持つ人々を対象に表示されることを保証するように設計されています。しかし、大規模なAIチームは、こうしたツールを作成する時間を投資したくない可能性があり、したがって、AI企業が使用するための監視ツールを作成したい企業にとってビジネスチャンスがあります。

Arthurは、システムがすでに展開された後に、企業がAIシステムを維持および監視するのを容易にするツールを作成することに焦点を当てています。Arthurのツールは、企業がシステムのパフォーマンスが時間の経過とともにどのように変化するかを確認できるように設計されており、理論的には、企業が潜在的な偏見の兆候を検出できるようになります。企業のローン勧めソフトウェアが特定の顧客グループを除外し始めた場合、システムが人種や性別などの敏感な属性に基づいて顧客を差別していないことを確認するために、レビューが必要であることを示すフラグを設定できます。

しかし、Arthurは、AI企業がアルゴリズムのパフォーマンスをレビューできるようにするツールを作成している唯一の企業ではありません。多くのスタートアップは、偏見に対抗し、AIアルゴリズムがエシカルな方法で使用されることを保証するためのツールを作成に投資しています。Weights & Biasesは、機械学習エンジニアがネットワークの潜在的な問題を分析するのを助けるツールを作成しているもう一つのスタートアップです。トヨタは、機械学習デバイスをトレーニングするときに、Weights & Biasesによって作成されたツールを使用しています。一方、Fiddlerは、別のセットのAI監視ツールを作成することに取り組んでいます。IBMは、OpenScaleという名前の監視サービスを作成しました。

Liz O’Sullivan、Arthurの共同創設者の一人によると、ブラックボックス問題を解決するためのツールを作成することへの関心は、AIの力への認識の増大によって推進されています。

「人々は、これらのシステムがどれほど強力であるかを理解し始めており、それらの利点を責任を持って活用する必要があることを認識しています」とO’Sullivanは述べました。