Alyssa Simpson Rochwerger 氏、Real World AI – インタビュー シリーズの共著者

Alyssa Rochwerger は、実際の人々の困難な問題を解決する製品の構築に専念する、顧客主導のプロダクト リーダーです。彼女は、機械学習組織の製品リーダーとしての役割を数多く歴任してきました。彼女は、Figure Eight (Appen が買収) の製品担当副社長、AI およびデータ担当副社長を務めました。 アペン、IBM Watson の製品ディレクター。 彼女は最近、テクノロジーを利用して医療を改善するという夢を追求するためにこの業界を去りました。 現在、彼女はカリフォルニアのブルー シールドでプロダクト ディレクターを務めています。そこで彼女は、たくさんのデータ、多くの困難な問題、そしてプラスの影響を与える機会に囲まれて幸せに暮らしています。

彼女の新しい本について話します。 AI の現実世界: 責任ある機械学習のための実践ガイド

この本の序文では、IBM のプロダクト マネージャーとして、車椅子に乗っている人の写真がアルゴリズムによって「敗者」に分類されたときに、偏った情報を配信する AI システムの問題に初めて遭遇した経緯について説明しています。 あなたにとって、これは AI の偏見についてどの程度警鐘を鳴らしましたか?

これを警鐘とは言えませんが、機械学習ベースの製品を構築するのは初めてであり (この役割に就いてまだ数か月しか経っていませんでした)、このテクノロジーがどのように適切に機能するかについてまだ十分に理解していませんでした。ガードを設置し、望ましくない偏見を積極的に軽減します。 それは、この問題に対する私の注意を研ぎ澄まし、前進することを強く意識させた、目を見張るような経験でした。 公平性、アクセス、インクルージョンは私が情熱を注いでいるテーマであり、長年そう思っています。私は障害のある学生の擁護で大学で賞を受賞しました。 IBM でのこの経験は、チームが積極的に緩和していないと、体系的な社会的偏見がいかに簡単に機械学習ベースの製品にエンコードされてしまうかを技術的な観点から理解するのに役立ちました。 公平性を重視し、緩和にリソースを注ぐ機関で働けて幸せでした。

この本の調査と執筆であなたは個人的に何を学びましたか?

個人的な話ですが、私は仕事を変え、1 歳の子供を抱えながら、新型コロナウイルスの影響でこの本を書く時間を捻出する必要がありました。 これを最優先にするための時間をどう捻出するか、家族に助けを求める方法を学び、本の執筆に集中する時間を確保しました。

専門的に言えば、出版のために喜んで親切にストーリーを共有してくれた非常に多くの参加者がいたのは素晴らしいことでした。 私の経験では、機械学習の専門家は信じられないほど思慮深く親切な人々のグループであり、喜んで他の人を助け、間違いや学んだ教訓を共有します。 残念ながら、これらの教訓ストーリーの多くは、間違った見方をすると企業や個人の印象が悪くなる可能性のある舞台裏の情報を公にすることへの懸念から、この本には掲載されなかったか、大幅に匿名化する必要がありました。 それは確かに当然のことですが、個人的にはそれは残念すぎると感じています。私は、過去の経験や失敗が他の人の役に立つのであれば、そこから学び成長することを強く信じています。

これを読んで人々に学んでほしい最も重要な教訓は何ですか?

機械学習は決して怖いものではないし、理解するのが難しいものでもないということを知ってほしいと思います。 それは強力だが、時には脆弱なテクノロジーでもあり、難しい問題をうまく解決するにはガイダンスと構造が必要であるということ。 また、このテクノロジーを責任を持って倫理的に使用することが成熟と成功にとって重要であり、早い段階で有害な偏見の軽減に注力することがビジネスの成功の鍵であることも述べています。

この本で描かれている AI のジェンダーバイアスの一例は、Apple クレジット カードが男性よりも女性に低い融資枠を発行していることでした。 これは、オプションとして性別を省略すると、性別の代用として機能する可能性のある他の変数を考慮に入れることができないという例でした。 この例では、「性別」の入力がなければ、最終製品がリリースされるまで結果が偏っていることを把握することが不可能であることを示しました。 性別や少数派に対する偏見を避けるために、絶対に省略すべきではないと思われるデータ入力にはどのようなものがありますか?

厳格なルールはありません。すべてのデータセット、ユースケース、状況は異なります。 実務家には、機械学習アルゴリズムがどのような問題を解決するために適用されているのか、そしてその決定にどのような有害なバイアスがコード化される可能性があるのか​​について、詳細とニュアンスを理解することをお勧めします。

この本では、AI チームとコミュニケーションをとる際の主な責任は、ビジネスにとって重要な結果を正確に定義することであると説明しています。 企業がこのタスクで失敗する頻度はどのくらいだと思いますか?

私の経験から言うと、ほとんどの場合、結果は定義されていないか、大まかまたは高いレベルでのみ定義されています。 特定の結果について詳細に理解することは、早い段階でチームを成功に導く簡単な方法です。

この本では、AI システムは「設定したら後は忘れる」タイプのシステムではないことを認識することの重要性について語られています。 これについて簡単に話し合ってもらえますか？

これは、ほとんどの企業が新しい ML システムを運用環境に導入するときに犯す典型的な間違いです。 現実は変化します – 時間が経つと、昨日真実だったもの (トレーニング データ) が明日には真実ではなくなる可能性があります。 それは状況によって異なりますが、ほとんどの場合、より新しい情報に基づいて時間をかけて学び、調整し、より適切な決定を下せることが重要です。

機械学習ベースの製品は本質的に意思決定者です。 これを人間の例に喩えると、一か八かのフットボールの試合の審判のようなものです。 多くの場合、それが十分な訓練を受け、経験を積んだ審判であれば、その審判は正しい判断を下して試合は続行されますが、時にはその審判が間違った判定を下したり、どの判定を下すべきか確信がなかったりして、次の対応が必要になることがあります。戻ってビデオを確認してください。特定のプレーについて決定を下すために、他の数人に質問してください。 同様に、ML 製品にもフィードバックやトレーニングが必要ですが、自信がない場合もあります。 時間の経過とともに改善するためには、頼れるバックアップ オプションと、そこから学ぶための新しい情報が必要です。 優れた審判は時間の経過とともに学習し、より良い判断を下すようになります。

AI を使用してどのような問題に取り組むのが最適かを特定できる、部門を超えたチームを編成することの重要性についてお話しいただけますか?

機械学習テクノロジーは、通常、他のアプローチでは解決できない非常に難しい特定の問題に適しています。 どのような難しい問題でも、成功するにはチームが必要です。 企業が AI に不慣れな場合、単独の機械学習科学者、あるいは機械学習チームさえも自分たちだけで問題を解決できるという誤った話がよく流れます。 それが真実であると私は決して思いませんでした。 難しい問題に取り組み、機械学習テクノロジーを本番環境に確実に導入するには、さまざまな背景とアプローチを持つチームが必要です。

素晴らしいインタビューをありがとう。さらに詳しく知りたい読者（特に経営者）には、この本を読むことをお勧めします。 AI の現実世界: 責任ある機械学習のための実践ガイド.