グレース・イー、エチカルイノベーションのシニアディレクター（AIエチックスとアクセシビリティ） – インタビューシリーズ

グレース・イーは、アドビのエチカルイノベーションのシニアディレクター（AIエチックスとアクセシビリティ）で、グローバル、組織全体の倫理とプロセス、ツール、トレーニング、その他のリソースの開発を推進し、アドビの業界をリードするAIイノベーションが、アドビのコアバリューと倫理原則に沿ったものとなるようにしています。グレースは、アドビの責任ある技術開発への取り組みを推進し、すべてのAI開発において倫理とインクルージョンを重視しています。この取り組みの一環として、グレースは、アドビのAIエチックス委員会とレビューボードを監督し、これらの委員会は、アドビの開発チームにガイダンスを提供し、新しいAI機能と製品をレビューして、アドビの責任、説明責任、透明性の原則に沿ったものであることを確認しています。これらの原則により、AI機能を市場に提供する際に、有害で偏った結果を軽減することができます。グレースは、政策チームと協力して、社会の利益のためにAIに関する法律、規制、政策を推進するための提言を行っています。

アドビのアクセシビリティへの取り組みの一環として、グレースは、アドビの製品がすべてのユーザーにとってインクルージョン的でアクセス可能であることを保証し、誰でもデジタルエクスペリエンスを作成、操作、関与できるようにしています。彼女の指導の下、アドビは、政府機関、業界協会、ユーザーコミュニティと協力して、アクセシビリティの政策と標準を推進し、業界全体の解決策を推進しています。

アドビのAIエチックスの5年間の旅についてお話しください。どのような重要なマイルストーンがありましたか？特に、ジェネレーティブAIのような急速な進歩の場合に、どのように進化しましたか？

5年前、アドビは、説明責任、責任、透明性のAIエチックス原則を確立し、AIエチックスガバナンスプロセスの基盤を形成しました。世界中からアドビの従業員で構成される多様なクロスファンクショナルチームを結成し、時代を超えた行動可能な原則を開発しました。

その後、アドビは、AI開発サイクルの初期段階で潜在的なリスクと偏見を特定し、軽減するためのロバストなレビュープロセスを開発しました。このマルチパート評価により、アドビは、有害な偏見や固定観念を永続させる機能や製品を特定し、対処することができました。

ジェネレーティブAIが登場すると、アドビは、新しい倫理的課題に対処するためにAIエチックス評価を適応させました。このイテレーティブプロセスにより、アドビは潜在的な問題を先んじて特定し、AI技術が責任を持って開発され、展開されることを保証することができました。アドビのAIエチックスプログラムの関連性と有効性を維持するために、さまざまなチームとの継続的な学習とコラボレーションが重要でした。これにより、アドビは顧客に提供するエクスペリエンスを向上させ、インクルージョンを促進することができました。

アドビのAIエチックス原則、つまり説明責任、責任、透明性は、日常業務にどのように反映されていますか？これらの原則がアドビのAIプロジェクトをどのように導いてきたかについて、具体的な例を示してください。

アドビは、AI機能を責任を持って開発するために、ロバストなエンジニアリングプラクティスを実施し、従業員や顧客からのフィードバックを継続的に収集して必要な調整を行っています。

新しいAI機能は、潜在的な偏見やリスクを特定し、軽減するための徹底的な倫理評価を受けます。アドビのジェネレーティブAIモデルファミリーであるAdobe Fireflyを導入する際には、有害な固定観念を永続させるコンテンツを生成しないように評価を行いました。この評価は、製品チームとの密接なコラボレーションを通じて、フィードバックや学習を取り入れて進化するイテレーティブプロセスです。アドビはまた、製品チームと協力して、潜在的な影響を理解し、適切なテストやフィードバックメカニズムを設計するためのリスク発見演習を行っています。

アドビは、グローバルで多様なユーザーベースを使用するツールで、特にバイアスの懸念に対処する方法についてはどう考えていますか？バイアスが特定され、軽減された具体的なAI機能の例を示してください。

アドビは、製品およびエンジニアリングチームと密接に協力して、AIエチックス評価とレビュープロセスを継続的に進化させています。AIエチックス評価は、数年前とは異なり、今後さらに変化する予定です。このイテレーティブアプローチにより、アドビは新しい学習や技術の進歩に伴う新しい倫理的懸念に対処することができます。

たとえば、Fireflyにマルチリンガルサポートを追加した際、グレースのチームは、予期した出力が得られず、一部の単語が意図せずブロックされていたことを発見しました。対策として、アドビは国際化チームやネイティブスピーカーと協力して、モデルを拡張し、国固有の用語やニュアンスをカバーしました。

アドビの評価アプローチを技術の進歩に合わせて進化させる取り組みが、革新と倫理的責任のバランスを取るための鍵となります。インクルージョンとレスポンシブなプロセスを促進することで、アドビのAI技術が透明性と誠実性の最高水準を維持し、クリエイターがツールを自信を持って使用できるようにします。

公共政策形成への関与について、アドビは急速に変化するAI規制と革新の交差点をどのように切り抜けていますか？アドビはこれらの規制を形成する上でどのような役割を果たしていますか？

アドビは、政策立案者や業界団体と積極的に関わり、革新と倫理的考慮のバランスをとる政策を形成するために協力しています。政策立案者との議論は、アドビのAIアプローチと、人間の経験を向上させるために技術を開発することの重要性に焦点を当てています。規制当局は、現在の課題に対処するための実用的な解決策を求めています。アドビのAI機能に実際に適用されている、共同で開発されたフレームワークを提示することで、より生産的な議論を促進できます。抽象的な概念について話すのではなく、実際の影響を示すことが重要です。

アドビは、AIモデルをトレーニングするためのデータを取得する際に、どのような倫理的考慮を優先していますか？また、使用されるデータセットが倫理的かつAIのニーズに十分なロバスト性を持っていることをどう保証していますか？

アドビでは、AIモデルをトレーニングするためのデータを取得する際に、重要な倫理的考慮事項を優先しています。商業的に安全なFireflyを設計するために、アドビはライセンスされたコンテンツのデータセット（Adobe Stock）や、著作権が切れたパブリックドメインコンテンツを使用しました。また、データセットの多様性に焦点を当て、モデル出力で有害な偏見や固定観念を永続させないようにしました。多様なチームや専門家と協力してデータをレビューおよびキュレーションすることで、アドビは、強力で効果的でありながら、すべてのユーザーにとって倫理的でインクルージョン的なAI技術を作成することを目指しています。

ユーザーに、アドビのAIシステム（Fireflyなど）がどのようにトレーニングされており、どのようなデータが使用されているかを伝える透明性はどれくらい重要ですか？

アドビのジェネレーティブAI機能（Fireflyなど）がどのようにトレーニングされており、どのようなデータが使用されているかをユーザーに伝える透明性は極めて重要です。これにより、ユーザーはアドビの技術に信頼と信頼感を持ち、開発プロセスを理解できるようになります。データソース、トレーニング方法、倫理的保証についてオープンにしていることで、アドビはユーザーが製品とどのように関わるかについて十分な情報を得た上で決定を下せるようにしています。これは、アドビのAIエチックスの原則と一致しており、ユーザーとの協力的な関係を促進しています。

AIが拡大するにつれて、特にジェネレーティブAIの場合、企業としてアドビが直面する最も重要な倫理的課題とは何ですか？

アドビのような企業が直面する最も重要な倫理的課題は、有害な偏見を軽減し、インクルージョンを確保し、ユーザーの信頼を維持することです。AIが無意識に固定観念や有害で誤解を招くコンテンツを永続させる可能性、または「悪意のある行為者」がデジタルコンテンツを操作して世論を操作する可能性は、継続的な警戒とロバストな保証が必要な懸念事項です。

これに対処するために、アドビは2019年にコンテンツの信憑性イニシアチブ（CAI）を設立し、より信頼性の高いデジタルエコシステムを構築するための解決策を提供しています。CAIでは、コンテンツの信憑性を高めるためのアドビの解決策「コンテンツクレデンシャル」を実装しています。コンテンツクレデンシャルには、作成者の名前、画像の作成日、使用したツール、編集履歴などの重要な情報が含まれます。これにより、ユーザーはデジタルチェーンの信頼と信憑性を構築できます。

ジェネレーティブAIが拡大するにつれて、デジタルコンテンツの信頼性を回復するために、コンテンツクレデンシャルの広範な採用を促進することがますます重要になります。

AI開発のための倫理的枠組みを最初に考える組織に、アドビはどのようなアドバイスを提供しますか？

アドビのアドバイスは、シンプルで実用的な原則を確立することから始めることです。多くの場合、企業や組織は理論的には見えますが、実践的ではない原則に焦点を当てています。アドビの原則が時代を超えたのは、実践的なものであるためです。AI機能を評価する際、アドビの製品およびエンジニアリングチームは、どのような基準を満たす必要があるかを理解しています。

また、組織は、このプロセスがイテレーティブであることを理解して始める必要があります。アドビが5年または10年後に何を発明するかはわかりませんが、アドビはイノベーションやフィードバックに応じて評価を進化させることを知っています。顧客やユーザーに提供するエクスペリエンスを向上させ、インクルージョンを促進するために、継続的な学習とコラボレーションが重要です。

素晴らしいインタビュー、詳しく知りたい読者はアドビを訪問してください。