インタビュー
Navrina Singh、Credo AIのCEO兼設立者 – インタビュー・シリーズ
Navrina Singhは、Credo AIのCEO兼設立者です。Credo AIは、企業や個人に、信頼性が高く倫理的なAIを理解し、提供するための最初の包括的なAIガバナンスSaaSプラットフォームを設計している会社です。このプラットフォームにより、企業や個人は、新しい規制やポリシーに先んじ、透明性と監査可能性のあるAIレコードを作成することができます。同社は、ステルスモードで運営されており、世界最大の政府契約者や金融サービス企業など、フォーチュン100ブランドを含む印象的な顧客ポートフォリオを静かに構築しています。
あなたはインドの小さな町で、謙虚な出身で育ちました。どうやってあなたはエンジニアリングとAIの分野に惹かれたのですか?
私は中流家庭で育ちました。父は4十年間軍人で、母は教師で後にファッションデザイナーになりました。幼い頃から、両親は私の好奇心や科学的発見への愛を奨励し、安全な環境で「もしも」を探求できる場所を提供してくれました。
インドで育った時、女性には男性ほど多くの機会が与えられませんでした。社会的に受け入れられていることによって、少女に対する多くの決定が既に下されていました。家族のために良い生活を送るために、教育が唯一の方法でした。
高校を卒業した後、私は初めてのコンピューターを手に入れました。それが私にとって世界への窓でした。私はハードウェアに興味を持ち、オンラインでマザーボードを分解したり、ロボティクスアプリケーションを構築したり、プログラミングを学んだり、家の電気系統を改造したり（危険！）など、数多くのことをしました。エンジニアリングは、私が実験し、探求し、構築し、発明を通じて参加したい世界を提供する私の安全な場所でした。私は、テクノロジーが女性にとって変化をもたらす強力なツールになることができると思っており、興奮していました。
限られた資源で育ちましたが、可能性は限られませんでした。私は、テクノロジーで人間性に直面する最大の課題を解決するための強固な基礎を築くために、アメリカ合衆国に行くことを夢見ていました。2001年に私はアメリカ合衆国に移住し、ウィスコンシン大学マディソン校でエンジニアリングの勉強を続けました。
エンジニアリングでの私のほぼ2 десяти年のキャリアの中で、私はモバイルから拡張現実まで、さまざまな最先端テクノロジーに携わりました。
2011年に、私はQualcommで新しいエマージングビジネスを構築するために人工知能を探求し始めました。MicrosoftとQualcommで、過去10年間で、音声、ビジョン、NLPなどのAIアプリケーションを構築する時間を費やしました。AIや機械学習について学ぶにつれ、これらの最先端テクノロジーが私たちの生活を想像を超えるほど大幅に変えることになることが明らかになりました。
エンタープライズスケールのAIを構築することも、私たちが構築しているテクノロジーが、チェックされなければ、人々やコミュニティに害を及ぼす可能性があることを実感しました。私たちリーダーは、構築しているテクノロジーに対して極めて責任を負わなければなりません。私たちが構築しているテクノロジーが人類に利益をもたらすことを積極的に推進し、リスクを最小限に抑えることが不可欠です。結局、「私たちが作るものが私たちを形作る」ということです。責任を持って構築することが重要です。これが、私のキャリアの次の段階であるAIガバナンスを構築するきっかけとなりました。
あなたはいつ頃から、AIガバナンスについて真剣に考えるようになったのですか?
Qualcommでイノベーションの責任者だったとき、私たちは、AIがエマージングビジネスにもたらす可能性を探求していました。私たちの初期の取り組みは、サプライチェーンで使用されるコラボレーティブロボットに焦点を当てていました。これが、私の最初の「実際の」AIリスクへの露出でした。特に、これらのロボティクスシステムと共に作業する人間の身体的安全性に関するものでした。
その間、私たちは、Soul Machinesのようなスタートアップと多くの時間を過ごし、新しいユースケースを学び、共同で仕事を進める方法を模索していました。Soul Machinesは、新しいバージョンの「Baby X」と呼ばれるニューラルネットワークベビーのアバターをリリースしました。このアクティブに学習するベビーの観察は、私を停めて反省させました。私の娘Ziyaはその頃生まれ、Soul MachinesのBaby Xにちなんで「Baby Z」と名付けました。私はこれについて、2019年のWomen In Product Keynoteで話しました。
Baby XとBaby Zの学習ジャーニーは、不気味に似ていました！Ziyaが成長するにつれ、私たちは彼女に初期の語彙と学習ツールを提供していました。時間の経過とともに、彼女は世界を理解し、自分で物事をまとめ始めました。ニューラルネットワークベビーのBaby Xも、ビジョンセンサーと音声認識を通じて学習し、人間の世界について深い理解を急速に構築していました。
これらの初期のAIモーメントは、私に、リスクを管理し、この強力なテクノロジーを効果的にガバナンスする方法を見つけることが不可欠であることを明確にしました。
Credo AIの創設ストーリーを共有してください。
Qualcommを離れた後、私はMicrosoftのビジネス開発グループと製品グループでAIテクノロジーの商業化を担当するために採用されました。在職中、私は会話AIから契約インテリジェンス、視覚検査から音声による製品発見まで、さまざまなAIテクノロジーに携わりました。
しかし、Qualcommで植えられたAIガバナンスの種子は、AIテクノロジーの開発における「監督不足」が増大するにつれ、成長し続けました。製品リーダーとして、私はデータサイエンスとエンジニアリングチームと協力し、高性能のAIアプリケーションを構築し、市場に迅速に展開することを目指しました。
私たちは、コンプライアンスとガバナンスをイノベーションのペースを妨げるゲートチェックと見なしていました。ただし、私のAIガバナンスに関する懸念は、リスク、コンプライアンス、監査の技術と監督の専門家間のガバナンスギャップが増大するにつれ、さらに高まりました。
これらの未解決の質問は、私に答えを求めるよう促しました。そこで、私は非営利団体MERAT（Marketplace for Ethical and Responsible AI tools）を設立する基礎を築き始めました。MERATの目的は、スタートアップとグローバル2000社が責任あるAI開発に焦点を当てるためのエコシステムを作ることでした。
MERATでの初期の実験により、包括的なガバナンスツールを提供するスタートアップは存在しないことが明らかになりました。Credo AIが登場するまででした。このギャップは、私がAIを意図的に導く使命を実現するための機会でした。私の仮説は、AI革命の次のフロンティアはガバナンスによって導かれるというもので、ガバナンスを採用する企業が信頼できるブランドとして浮上するというものでした。
Andrew Ngによって設立されたAI Fundというインキュベーターから接触されました。AI Fundは、私が過去10年間で消費されていたAI監査可能性とガバナンスのトピックに焦点を当てていました。
Credo AIは、2020年2月28日に、AI Fundからの資金提供を受けて設立されました。
Credoとは、「あなたの行動を導く価値観のセット」という意味です。Credo AIでは、私たちのビジョンは、企業が最高の倫理基準でAIを作成できるようにすることです。
以前のインタビューで、あなたは、ブランドが将来、AIを構築して展開するだけでなく、AIを人間の利益のためにスケールする方法で信頼されるようになることを話しました。詳しく説明してください。
人工知能は、この世紀を変えるテクノロジーの1つであり、経済と社会に変革的な機会を提供します。2030年までに、世界経済に約16兆ドルを貢献する見込みです。
しかし、過去数年間で、AIは既に重大な脅威（ロボットの支配者ではありません！）をもたらしています。たとえば、最小限の再犯を最適化する司法アルゴリズムは偏見を導入し、パロールを必要とする人々にパロールを拒否する可能性があります。
エンゲージメントを最適化するソーシャルアルゴリズムは、国家を分裂させる可能性があります。
不公平なアルゴリズムは、あなたが仕事や大学への入学を得ることができない理由になる可能性があります。
私たちがツールに与える自律性が広がるにつれ、予期しない結果の範囲も広がります。例外的なスケールは、例外的な影響を生み出しますが、常に私たちが意図する影響ではありません（私はCredo AI Manifestoでこれについて書いています）。
私は、企業がAIガバナンスに投資して、責任を持ってテクノロジーを構築し、データの倫理的な使用にコミットする企業が、利害関係者全員に対して信頼を築くことができると予測しています。
Credo AIは、企業が責任を負うのを助けるにはどうしていますか?
責任とは、自分の行動を受け入れる義務を意味します。AI開発と展開の文脈では、企業は、単に「何が良いことであるか」ということに合意するだけでなく、合意された目標に対して意図的に行動を起こし、結果に対して責任を負う必要があります。
Credo AIは、企業が倫理的で責任あるAIイニシアチブに取り組むためのシェルパーとなり、多様な利害関係者（ユーザー、従業員、規制当局、監査人、投資家、その他）に対して企業を責任を負わせます。したがって、Credo AIは、包括的でリアルタイムのコンプライアンス管理とAI展開のリスク測定のためのソリューションを提供することを目指しています。
AIにおける信頼と説明責任を構築するのは、ダイナミックなプロセスです。組織は、企業の価値観に合意し、コード化し、組織のインフラストラクチャに組み込み、影響を観察し、多様な意見を提供することでプロセスを繰り返す必要があります。Credo AIは、包括的でリアルタイムのソリューションを通じて、AI展開のコンプライアンス管理とリスク測定を可能にします。
Credo AIのガバナンスソリューションを使用することで、企業は以下のことができます：
- AIユースケースとモデルに対するガバナンス要件に合意し、カスタマイズ可能なポリシーパックとモデル評価メトリクスの選択を支援するツールを使用します。
- データとMLモデルをそれらの目標に対して評価および調査します。
- 技術仕様をビジネスへのリスク影響に変換し、モデルの開発と展開の各段階でガバナンスの問題を事前に発見して修正できます。
決定と行動を記録することで、Credo AIは、モデルを作成するために行われた決定の起源を証拠としてキャプチャします。この証拠は、企業の利害関係者と監査人に共有されるもので、AIの意図に対する信頼を築きます。
この証拠は、開発チームが予期しない結果を予測して予防するのを助け、AIモデルの有効性と信頼性の評価方法を標準化するでしょう。
AIガバナンスを通じて包括的な評価と保証を可能にするのは、まだ初期段階にあります。企業と協力して、説明責任を促進することを楽しみにしています。
Credo AIは、企業がAIガバナンスをあとまわしにしないようにするのにどのように役立つのでしょうか?
現在、責任ある「AI」、「倫理的」、「信頼できる」とはどういうことか、それを企業がどのように提供できるかについて、明確な理解が欠けている状況です。Credo AIのSaaSプラットフォームを使用して、企業は「倫理の経済学」を示すことができます。
Credo AIを使用することで、企業は、公平で、コンプライアンスし、監査可能なAIを提供するだけでなく、顧客の信頼を築くことができます。
顧客の信頼を築くことで、企業は顧客ベースを拡大し、売上を増やすことができます。たとえば、企業は、顧客サービスチャットボットに倫理的なAIを使用することで、最高の顧客体験を提供したり、AIを使用してユーザーの活動を理解し、追加のコンテンツや製品を提案したりすることができます。非常に満足した顧客は、友人や家族と経験を共有することで、最良の広告となります。
さらに、企業は、技術と監督の機能間のコラボレーションが、コンプライアンスの高速化、情報に基づいたリスク管理、ブランドと規制リスクの低減によってコストを節約するのを助けることができることを確認できます。Credo AIは、企業が倫理的なAIを展開するために、技術的メトリクスと有形なビジネス成果物の橋を構築することを支援します。多くの人が認識しているように、倫理的なAIを擁護することは、規制コンプライアンスのチェックボックスをオンにすること以上のものです。しかし、より公平な世界への貢献というだけではありません。
企業が高い倫理基準を維持する場合、実際のビジネス成果、たとえば収益の増加を期待できます。抽象的な「ソフト」概念から、客観的なビジネス上の決定へと視点を変えることが、AIガバナンスを企業の経済的および社会的エンジンの重要な部分として位置付けするための重要な方法でした。
最近、バイデン政権は国家人工知能諮問委員会を設立しました。あなたの見解では、これはAIビジネスにとってどのような意味合いがありますか?
世界中の政府は、AIの規制に全力を尽くしています。企業は準備しなければなりません。バイデン政権の国家AI諮問委員会の創設とホワイトハウスOSTPへの投資は、AIシステムを統治する権利に関する議論に行動をもたらすための良い第一歩です。しかし、責任あるAIが私たちの国と経済にとって意味することを実現するには、まだ多くの仕事が必要です。
私は、2022年が責任あるAIの年になることを予測しています。これは、企業が既存のフレームワークにギャップがあるかどうかを評価する、またはアプローチが不足している場合は堅固なフレームワークを実装するための目覚ましの呼びかけです。現在は、信頼できるAIを構築するために基盤を整えるための最も良い日です。
より厳格な規制の出現が予想されます。ホワイトハウスの行動に加えて、上院のアルゴリズムアカウンタビリティ法案の草案、連邦取引委員会（FTC）のAIバイアスに関するガイダンスなど、他の政策立案者や機関から多くの勢いが出ています。
将来を見据えて、5年以内にAI倫理とAIガバナンスはどれほど重要になるでしょうか?
私たちはAIガバナンスの初期段階にあります。AIガバナンスがどれほど重要かを強調するために、以下は私の予測です：
- 倫理的なAIガバナンスは、トップレベルの組織の優先事項となる
企業はビジネスでAIを使用することにより利益を得続けています。IDCは、2022年のAIへの支出を3400億ドルと予測しています。ガバナンスがなければ、企業は、偏見、セキュリティ、精度、コンプライアンスに関する懸念から、AIへの投資を躊躇するでしょう。
信頼がなければ、消費者もAIベースの製品を受け入れたり、システムを構築するためにデータを共有したりすることを躊躇するでしょう。5年以内に、倫理的なAIガバナンスは、取締役会の優先事項となり、企業が信頼を築くために開示し、報告しなければならない重要なメトリックになるでしょう。
- 新しいソシオテクニカルな職種が企業内に登場する
私たちは、倫理を優先する組織が、公平で、コンプライアンスし、監査可能なAIアプリケーションを保証するために、開発を将来proofingするために多大な投資をしているのを既に見ています。
AIをリードするために、企業はAI規制のランドスケープとスケールでの説明責任構造の実装についてさらに多くを学ぶ必要があります。倫理的なAI実装の新興分野が進化するにつれ、新しいソシオテクニカルな職種が登場する可能性があります。この新しいワークフォースコンポーネントは、技術と監督の間の仲立ちとして機能し、共通の基準と目標を開発するのに役立ちます。
- 新しいAIパワードエクスペリエンスは、より厳格なガバナンスを要求する
AIの意図的な結果と予期しない結果の両方を管理することは、特にメタバースとweb3の世界に入るにつれて、非常に重要です。AIのリスクは、現実世界と仮想世界の両方に存在しますが、後者ではさらに増大します。
AIの監視が欠如したままメタバースに飛び込むと、企業は顧客を、たとえば、IDの盗難や詐欺などの課題にさらすことになります。メタバースで顧客を安全に保つには、AIとガバナンスの問題を現実世界で解決することが不可欠です。
- 倫理的なAIガバナンスの新しいエコシステムが登場する
世界は、AIガバナンスが責任あるAIを運用化するための基本的な構成要素であることを認識しました。次の数年間で、競争的でダイナミックな市場が、ツール、サービス、教育、その他の機能を提供するサービスプロバイダーとして登場することを予測しています。
さらに、既存のMLopsとGRCプラットフォームの統合と拡張が、AIのガバナンスと評価機能を提供するために行われることを予測しています。
あなたがCredo AIについて共有したいことは他に何ですか?
倫理的なAIガバナンスは、将来を確保するための投資であり、これをしないことはできないものです。今日が始めるための最良の日です。
Credo AIを訪問して、AIガバナンスと倫理についてさらに詳しく知ることを読者に勧めます。
