アリッサ・シンプソン・ロッチワーガー、リアルワールドAIの共著者 – インタビュー・シリーズ

アリッサ・ロッチワーガーは、実際の問題を解決するために製品を開発することに尽力しているカスタマー・ドリブンな製品リーダーです。彼女は、機械学習組織の製品リーダーシップの役割を多数務めてきました。彼女は、Figure Eight（Appenに買収された）の製品担当VP、AppenのAIおよびデータ担当VP、IBM Watsonの製品ディレクターを務めてきました。最近、彼女はヘルスケアを改善するためにテクノロジーを利用したいという夢を追求するために、この分野を離れました。現在、彼女はBlue Shield of Californiaの製品ディレクターを務めており、多くのデータ、難しい問題、そしてポジティブな影響を与えるための多くの機会に囲まれています。

彼女の新しい本について話し合います：リアルワールドのAI：責任ある機械学習の実践ガイド

本の序文では、IBMの製品マネージャーとしてAIシステムが障害者の写真を「敗北者」と分類した問題に出会ったときのことを述べています。AIの偏見についての目覚めの呼びかけだったのでしょうか?

私はそれを目覚めの呼びかけとは呼びません。私は機械学習ベースの製品を開発するために新しく役割に就いたばかりで、このテクノロジーについて十分なことを知らなかったので、偏見を防ぐためのガードを適切に設定することができませんでした。私はこの問題に敏感になっていたので、機械学習ベースの製品に社会的な偏見がコード化されることが容易であることを理解しました。私は、平等、接続性、包括性について情熱を持っているので、この経験は私にとって大きな学びとなりました。

本を研究し、執筆する中で、個人的に何を学びましたか?

個人的な話ですが、仕事を変え、1歳の赤ちゃんを抱え、COVID-19を乗り越える中で、この本を書く時間を確保することができました。私は、家族から時間を確保する方法と、書籍執筆に集中する方法を学びました。

専門的に見ると、多くの参加者が出版のために彼らの物語を共有してくれたことは、素晴らしい経験でした。機械学習の専門家は、思いやりがあり、親切で、他の人を助け、過去の経験から学ぶことに熱心です。残念ながら、多くの物語は本に含めることができなかったり、匿名化されることになりました。私は、過去の経験から学ぶことの大切さを信じています。

読者が本から得るべき最も重要な教訓は何ですか?

私は、機械学習が難しいかどうかではなく、強力で時に脆いテクノロジーであることを理解してもらいたいと思います。責任ある倫理的な使用は、成熟と成功に不可欠です。偏見を早期に軽減することが重要です。

本では、Appleのクレジットカードが女性よりも男性に低い信用額を与えるというAIの性別偏見の例が示されています。この例は、性別を省略すると、他の変数が性別の代理として機能する可能性があることを示しています。性別や少数派に対する偏見を避けるために、省略すべきではないデータ入力の種類は何ですか?

厳格なルールはありません。毎回、問題と使用例を分析し、有害な偏見がコード化される可能性を考慮する必要があります。

本では、AIチームとのコミュニケーションにおいて、ビジネスにとって重要な成果を正確に定義することの重要性について述べられています。ビジネスがこのタスクに失敗することがどのくらい頻繁であると思いますか?

私の経験では、ほとんどの場合、成果は定義されていないか、または高レベルでしか定義されていません。詳細な成果を定義することは、チームを早期から成功させるための簡単な方法です。

本では、AIシステムが「セットして忘れる」タイプのシステムではないことを認識することの重要性についても述べられています。簡単に説明してください。

これは、多くの企業が新しいMLシステムを導入するときに犯す典型的な間違いです。現実は変化し、昨日のトレーニングデータが今日当てはまらない可能性があります。状況に応じて、最新の情報に基づいて学習し、決定を改善する必要があります。機械学習ベースの製品は、基本的に意思決定者です。人間の例として、経験豊富なレフリーは、ゲーム中に良好な決定を下しますが、時には悪い判断を下したり、判断が難しい場合があります。その場合、ビデオを確認し、他の人の意見を求める必要があります。同様に、ML製品はフィードバック、トレーニング、そして時には自信を持てない場合があります。新しい情報から学び、改善するためのバックアップオプションが必要です。

AIを使用して解決すべき問題を特定するためのクロスファンクショナルチームの作成の重要性について話してください。

機械学習テクノロジーは、通常、他のアプローチでは解決できない非常に難しい特定の問題に適しています。難しい問題には、チームワークが必要です。企業がAIに新しく接する場合、単独の機械学習科学者またはチームが問題を独自に解決できるという誤った物語があります。私は、異なる背景とアプローチを持つチームが必要であることを発見しました。機械学習テクノロジーを成功裏に導入するには、特に製品化するには、チームワークが不可欠です。

素晴らしいインタビュー、感謝します。読者（特にビジネスエグゼクティブ）がもっと学びたい場合、本「リアルワールドのAI：責任ある機械学習の実践ガイド」を読むことをお勧めします。