Alyssa Simpson Rochwerger, Co-Author of Real World AI – Interview Series

Alyssa Rochwergerは、実際の問題を解決する製品を構築することに尽力している、顧客中心の製品リーダーです。彼女は、Figure Eight（Appenに買収された）、AppenのVP of AI and data、IBM Watsonの製品ディレクターなどの役職を歴任しています。彼女は最近、ヘルスケアを改善するためにテクノロジーを使用するという夢を追求するために業界を離れました。現在、彼女はBlue Shield of Californiaの製品ディレクターを務めており、多くのデータ、難しい問題、そしてポジティブな影響を与える機会に囲まれています。

私たちは彼女の新しい本について話し合います：The Real World of AI: A Practical Guide for Responsible Machine Learning

本の序文では、IBMの製品マネージャーとして、AIシステムが障害者の写真を「敗北者」と分類するバイアス情報を提供する問題に初めて遭遇したときについて説明しています。この経験は、AIのバイアスについてあなたにとってどれだけの目覚めの呼びかけでしたか？

私はそれを目覚めの呼びかけというより、機械学習ベースの製品を構築する際の私の最初の経験でした（私は役職に就いて間もなかった）。私はまだこのテクノロジーについて十分に知らなかったので、望ましくないバイアスを適切に軽減するためのガードを設定することができませんでした。私は、システム的な社会的バイアスが機械学習ベースの製品にコード化されることが容易であることを理解しました。私は、平等、 アクセス、 包摂について熱心に取り組んでいるので、この経験は私の注意を引きました。

あなたはこの本の研究と執筆を通じて、個人的に何を学びましたか？

個人的な話として、私はこの本を執筆するために時間を確保する必要がありました。私は、家族に時間を確保してもらうように頼むことを学びました。

専門的に言うと、多くの参加者が出版のために彼らの物語を共有してくれたことはとてもよかったです。私の経験では、機械学習の専門家は非常に思慮深く、親切な人たちです。他者を助けることと、学んだ教訓を共有することに積極的です。残念ながら、多くの学んだ教訓の物語は本に含めることができなかったり、匿名化される必要があったりしました。会社や個人が悪く見られる可能性があるため、裏話のような情報を公開することを心配したからです。私は、過去の経験やミスから学び、成長することの大切さを信じています。

読者がこの本から得るべき最も重要な教訓は何ですか？

私は、機械学習が非常に難しいか、理解するのが難しいということではなく、強力だが時々脆いテクノロジーであることを読者が理解してくれることを希望します。ガイダンスと構造があれば、難しい問題を解決することができます。また、責任ある倫理的な使用は成熟と成功に重要であり、有害なバイアスを軽減することに焦点を当てることがビジネス上の成功の鍵であることを希望します。

本の中で描かれたAIのジェンダーバイアスの1つの例は、Apple Credit Cardが男性よりも女性に低い信用額を発行することでした。これは、ジェンダーを選択肢として省略することで、ジェンダーの代理となる可能性のある他の変数を考慮できなかったことを示しています。最終製品がリリースされるまで、結果がバイアスされていることがわからなかったことを示しています。ジェンダーやマイノリティに対するバイアスを避けるために、省略してはならないデータ入力の種類は何ですか？

厳格なルールはありません。毎回、データセット、ユースケース、状況が異なります。私は、実践者が、機械学習アルゴリズムが解決しようとしている問題の詳細とニュアンスに焦点を当てることを勧めます。有害なバイアスがコード化される可能性を考慮する必要があります。

本では、AIチームとのコミュニケーションの一次的な責任は、ビジネスにとって重要な成果を正確に定義することであると述べられています。ビジネスがこのタスクに失敗することがどれくらい多いかと思いますか？

私は、ほとんどの場合、成果は定義されていないか、または緩いレベルでしか定義されていないと考えています。具体的な成果について詳細に説明することは、チームを初期から成功させるための簡単な方法です。

本では、AIシステムは「セットして忘れる」タイプのシステムではないことを認識することの重要性について説明しています。簡単に説明してください。

これは、ほとんどの会社が新しいMLシステムをプロダクションに導入するときに犯す典型的な間違いです。現実は変わります。時間が経過すると、昨日真実だったもの（トレーニングデータ）は、今日真実ではないかもしれません。状況に応じて、MLベースの製品は基本的に意思決定者です。人間の例に相当するのは、ハイステークスのフットボールゲームのレフリーです。レフリーは良好的な判断を下しますが、時々悪い判断を下したり、判断ができないことがあります。そういうときは、ビデオを確認したり、他の人の意見を求めたりして、判断を下す必要があります。同様に、ML製品はフィードバック、トレーニング、そして時々自信を持って判断を下す必要があります。新しい情報から学び、時間の経過とともに改善する必要があります。

AIを使用して解決すべき問題を特定できるクロスファンクショナルチームを作成することの重要性についてお話しください。

機械学習テクノロジーは、通常、他のアプローチでは解決できない非常に難しい特定の問題に適しています。難しい問題には、チームが必要です。会社がAIに新しくなるとき、単独の機械学習科学者または機械学習チームが問題を独自に解決できるという誤った物語があります。私は、そんなことはないと思います。難しい問題を解決するには、異なる背景とアプローチを持つチームが必要です。特に、機械学習テクノロジーを成功裏にプロダクションに導入するには、チームが必要です。

素晴らしいインタビュー、感謝します。読者（特にビジネスエグゼクティブ）がもっと学びたい場合は、本を読むことをお勧めします：The Real World of AI: A Practical Guide for Responsible Machine Learning