インタビュー
クレドーAIのナヴリナ・シン、CEO兼創設者 – インタビュー・シリーズ
ナヴリナ・シンは、クレドーAIのCEO兼創設者です。クレドーAIは、企業や個人に信頼性の高いAIを開発・提供できるように設計された、最初の包括的なAIガバナンスSaaSプラットフォームです。このプラットフォームにより、企業や個人は、AIの透明性と説明責任を確保し、新しい規制やポリシーに先んじて対応し、組織全体で監査可能なAIの記録を作成できます。同社はステルスモードで運営しており、すでに世界的大手政府契約者や金融サービス企業など、フォーチュン100ブランドを含む印象的な顧客ポートフォリオを構築しています。
あなたはインドの小さな町で、謙虚な出自から成長しました。どうやってエンジニアリングとAIの分野に惹かれましたか?
私は中流家庭で育ちました。父は40年間軍人で、母は教師で後にファッションデザイナーになりました。幼い頃から、両親は私の好奇心や科学的発見への愛を奨励し、安全な環境で「もしも」を探求できる場所を提供してくれました。
インドで育ったとき、女性には男性ほど多くの機会が与えられませんでした。社会的に受け入れられていることによって、多くの決定がすでに女の子のために下されていました。家族のために良い生活を与えるために、教育が唯一の方法でした。
高校を卒業した後、私は初めてコンピューターを所有しました。それが私の世界への窓でした。私はハードウェアに興味があり、オンラインでマザーボードを解体する方法やロボティクスアプリケーションを構築する方法、コードを学ぶ方法などを学びました。エンジニアリングは私の安全な空間で、実験し、探求し、構築し、発明を通じて私が関わろうとした世界を体験できる場所でした。私は技術が変化をもたらす強力なツールになる可能性に感銘を受けました。特に女性にとってです。
成長するにつれて、私の手段は限られていましたが、可能性はありませんでした。私はアメリカに来て、人間性に直面する最大の課題を解決するために技術の基礎を築くことを夢見ていました。2001年に私はここに移住し、ウィスコンシン大学マディソン校でエンジニアリングの旅を続けました。
私のエンジニアリングでの経歴のほとんどの期間、さまざまな最先端技術に携わりました。モバイルから拡張現実までです。
2011年に、私はQualcommで新しいエージェントビジネスを構築するためにAIを探求し始めました。MicrosoftとQualcommで、過去10年間でスピーチ、ビジョン、NLPの分野でAIと機械学習のビジネスとアプリケーションを構築する時間を過ごしました。AIと機械学習について学ぶにつれて、これらの最先端技術が私たちの生活を想像を超えるほど大幅に変えることになることが明らかになりました。
エンタープライズスケールのAIを構築することも、私たちが構築している技術が、チェックされなければ、人々やコミュニティに害を及ぼす可能性があることを実感しました。私たちとしては、構築している技術に対する極めて重大な責任を負う必要があります。私たちが構築している技術の利点を最大化し、リスクを最小限に抑えるために、積極的に行動する必要があります。結局、「私たちが作るものは私たちを形作る」だからです。責任を持って構築することは、非常に重要です。これが、私のキャリアの次の段階でAIガバナンスを構築することを決意させました。
あなたはいつから真剣にAIガバナンスについて考えるようになりましたか?
Qualcommのイノベーションの責任者だったとき、私たちは、AIが新しいエージェントビジネスにもたらす可能性を探求していました。私たちの初期の取り組みは、サプライチェーンで使用されるコラボレーションロボットに焦点を当てていました。これが、私にAIの「実際の」リスク、特にロボティクスシステムと一緒に作業する人間の物理的な安全性に関する最初の出会いとなりました。
その間、私たちはスタートアップ企業、例えばSoul Machinesと一緒に、新しいユースケースを学び、共同で仕事を進める方法を模索していました。Soul Machinesは、ニューラルネットワークを動かすベビーアバター「ベイビーエックス」の新しいバージョンをリリースしました。ベビーエックスを見て、世界から学び、周囲の世界を理解することに私は驚かされました。私の娘ジヤは同じくらいの頃に生まれ、Soul Machinesのベビーエックスにちなんで「ベビーゼット」という愛称で呼ばれていました。私はこれについて、2019年のWomen In Product Keynoteで話しました。
ベビーエックスとベビーゼットの学習の旅は、不気味に似ていました！ジヤが成長するにつれて、私たちは彼女に最初の語彙と学習ツールを提供していました。時間の経過とともに、彼女は世界を理解し、自分で物事を組み立てるようになりました。ベビーエックス、ニューラルネットワークのベビーも、ビジョンセンサーとスピーチ認識を通じて学習し、人間の世界について深い理解を急速に構築していきました。
これらの初期のAIの瞬間は、私に、強力なこの技術を囲む有効なガードレールを見つけること、そしてそれを人間の利益のために展開することを確実にすることが重要であることを明らかにしました。
クレドーAIの創設ストーリーを共有してください。
Qualcommを離れた後、私はMicrosoftのAI技術の商業化を担当するために採用されました。私の在職中、私は会話AIから契約インテリジェンスまで、視覚検査からスピーチパワード製品発見まで、さまざまなAI技術に携わりました。
しかし、Qualcommで植えられたAIガバナンスの種は、私がAI技術の開発における「監督不足」を目にしているにつれて成長し続けました。製品リーダーとして、データサイエンスとエンジニアリングチームと共同で、高性能のAIアプリケーションを構築し、市場で迅速に展開することを目指していました。
私たちは、コンプライアンスとガバナンスをイノベーションのペースを遅くするゲートチェックと見なしていました。しかし、私のAIガバナンスに関する懸念は、技術と監督の専門家の間のガバナンスのギャップに気付いたことから、さらに増大しました。私はAIガバナンスの課題についてさらに探求し続けました。
AIガバナンスについての未回答の質問に答えを求めるために、私は非営利団体MERAT（Marketplace for Ethical and Responsible AI tools）を設立する基礎を築きました。MERATの目的は、スタートアップとグローバル2000社が責任あるAIの開発に焦点を当てたエコシステムを作ることです。
MERATでの初期の実験から、多利害関係者向けの包括的なAIおよびMLアプリケーションのガバナンスを可能にするスタートアップが不足していることが明らかになりました。クレドーAIはこのギャップを埋める機会でした。私の仮説は、AI革命の次のフロンティアはガバナンスによって導かれるというものでした。ガバナンスを取り入れた企業は、信頼できるブランドとして浮上することになります。
Andrew Ng氏によって設立されたAIファンドというインキュベーターからアプローチを受けました。AIファンドは、私が過去10年間に関わっていたAIの監査可能性とガバナンスのトピックに焦点を当てていました。
クレドーAIは、2020年2月28日にAIファンドの出資を受けて設立されました。
クレドーとは、「あなたの行動を導く価値観のセット」という意味です。クレドーAIでは、私たちのビジョンは、企業が最高の倫理基準でAIを作成できるようにすることです。
以前のインタビューで、あなたは、将来のブランドは「ただ」AIを構築して展開するだけではなく、AIをどのようにスケールするかによって信頼されるようになると述べました。詳しく説明してください。
AIは、この世紀を変える技術であり、経済と社会に変革的な機会を提供しています。2030年までに、世界経済に約16兆ドルを貢献する見込みです。
しかし、過去数年間は、AIの重大な脅威（ロボットの支配者ではありません！）がすでに存在していることを強調しています。例えば、最小限の再犯を最適化する司法アルゴリズムは偏見を導入し、パロールを得るに値する人々にパロールを拒否する可能性があります。
エンゲージメントを最適化するソーシャルアルゴリズムは、国を分裂させる可能性があります。
不公平なアルゴリズムは、あなたが仕事や大学への入学を得られない理由となる可能性があります。
私たちがツールに与える自律性が増すにつれて、予期せぬ結果の範囲が広がります。非凡なスケールは非凡な影響を生み出しますが、常に私たちが意図した影響ではありません（私はCredo AI Manifestoでこれについて書いています）。
私は、AIガバナンスに投資して、責任あるAIの構築とデータの倫理的な使用に取り組む企業は、利害関係者全体に信頼を築くことができると予測しています。顧客、消費者、投資家、従業員などです。
クレドーAIは、企業をどのようにして責任あるものにしますか?
責任とは、自分の行動を受け入れる義務を意味します。AIの開発と展開の文脈では、企業は「良いもの」について合意するだけでなく、目標を達成するための意図的なステップを踏み、結果について責任を負う必要があります。
クレドーAIは、企業の倫理的で責任あるAIイニシアチブにおいて、企業を様々な利害関係者（ユーザー、従業員、規制当局、監査人、投資家、幹部など）に責任を負わせるためのシェルパーとなります。クレドーAIは、企業がAIを展開する際に、コンプライアンスとリスクを管理するためのリアルタイム、コンテキスト駆動型、包括的、継続的なソリューションを提供することを目指しています。
AIにおける信頼と説明責任を構築することは、ダイナミックなプロセスです。組織は、企業の価値観に合意し、コード化し、組織のインフラストラクチャに組み込み、影響を観察し、繰り返しプロセスを実行する必要があります。クレドーAIは、AIの展開におけるコンプライアンスの管理とリスクの測定を可能にする包括的でリアルタイムのソリューションを提供することで、説明責任を可能にします。
クレドーAIのガバナンスソリューションを使用することで、企業は次のことができます：
- AIのユースケースとモデルに対するガバナンス要件に合意し、カスタマイズ可能なポリシーパックとモデル評価メトリクスの選択を支援するための意思決定ツールを使用します。
- データとMLモデルをそれらの合意された目標に対して評価および調査します。
- 技術的仕様をビジネスへのリスク影響に変換し、モデル開発と展開の各段階でガバナンスの問題を早期に検出して修正します。
クレドーAIは、決定と行動の記録を通じて、モデル作成に寄与した決定の起源を証拠として記録します。この証拠は、企業の利害関係者と監査人に共有され、AIの意図を信頼できるものにします。
この証拠は、開発チームが予期せぬ結果を予測して防止するのに役立ち、AIモデルの有効性と信頼性の評価方法を標準化することになります。
私たちは、包括的な評価と保証を通じてAIガバナンスを可能にするという初期の段階にあり、より多くの企業と協力して、説明責任を促進することを楽しみにしています。
クレドーAIは、企業がAIガバナンスをあとまわしにしないようにどう助けていますか?
現在、企業には、責任あるAIとは何か、それをどのように提供するかについての明確な理解が不足しています。クレドーAIは、企業にこの重要な質問を再定義するのに役立ちます。クレドーAIのSaaSプラットフォームを使用して、「倫理の経済学」を実証します。
クレドーAIを使用することで、企業は、公正で、コンプライアンスが保たれ、監査可能なAIを提供するだけでなく、顧客の信頼を築くことができます。
顧客の信頼を築くことで、企業は顧客ベースを拡大し、売上を増やすことができます。例えば、企業は、顧客サービスチャットボットに倫理的なAIを使用することで、最高の顧客体験を提供できます。或者、AIを使用してユーザーの活動を理解し、追加のコンテンツや製品を提案することで、責任ある方法でAIを使用できます。非常に満足した顧客は、友人や家族と経験を共有することで、最高の広告を提供します。
さらに、企業は、技術と監督の機能間のコラボレーションが、コンプライアンスの高速化、情報に基づいたリスク管理、ブランドと規制リスクの低減など、コストを節約するのに役立つことを認識することができます。クレドーAIは、企業が倫理的なAIを展開するのに役立ちます。技術的指標と実際のビジネス成果を結び付けるブリッジを構築することでです。多くの人々が認識しているように、倫理的なAIを擁護することは、規制コンプライアンスのチェックボックスを埋めること以上のものです。しかし、より公平な世界への貢献をもたらすだけでなく、実際のビジネス成果をもたらす可能性もあります。
企業が高い倫理基準を維持する場合、実際のビジネス成果、たとえば収益の増加を期待できます。抽象的な「ソフト」概念から、客観的なビジネス上の決定への転換は、AIガバナンスを企業の経済的および社会的エンジンの重要な部分として位置付けるための重要な方法でした。
最近、バイデン政権は国家人工知能諮問委員会を設立しました。あなたの見解では、AIビジネスにとってこれは何を意味しますか?
世界中の政府は、AIの規制に全力を尽くしています。企業は準備する必要があります。バイデン政権の国家AI諮問委員会の創設と、AIに関する白書OSTPへの投資は、AIシステムを規制する権利についての議論に実行をもたらすための良い第一歩です。しかし、責任あるAIとは何か、私たちの国と経済にとって何を意味するかを実現するには、まだ多くの作業が必要です。
私は、2022年は責任あるAIの年であると考えています。企業は、既存のフレームワークにギャップがないかを評価するか、またはアプローチがなければ、信頼できるAIのための堅固なフレームワークを実装する必要があります。今日が、倫理的なAIガバナンスへの投資を始めるための最良の日です。
私たちは、より厳格な規制や柔らかい規制の出現を期待する必要があります。ホワイトハウスの行動に加えて、上院のアルゴリズムアカウンタビリティ法案、連邦取引委員会（FTC）のAIバイアスに関するガイダンスなど、他の政策立案者や機関からの多くの動きがあります。
将来を先取りして、5年後のAI倫理とAIガバナンスの重要性はどうなりますか?
私たちはAIガバナンスの初期段階にあります。AIガバナンスがどれほど重要かを強調するために、次の私の予測を紹介します：
- 倫理的なAIガバナンスは、トップレベルの組織の優先事項になる
企業は、ビジネスでAIを使用することによる利益を享受し続けています。IDCは、2022年のAIへの支出を3400億ドルと予測しています。ガバナンスがなければ、企業は、偏見、セキュリティ、精度、コンプライアンスに関する懸念から、AIへの投資を躊躇することになります。
信頼がなければ、消費者もAIベースの製品を受け入れたり、AIを構築するためにデータを共有したりすることを躊躇することになります。次の5年間で、倫理的なAIガバナンスは、取締役会の優先事項となり、企業が利害関係者に信頼を築くために開示し、報告しなければならない重要な指標になります。
- 新しい社会技術的職種が企業内に登場する
私たちは、倫理を先導する組織が、公正で、コンプライアンスが保たれ、監査可能なAIアプリケーションを構築するために、多大な投資をしています。
AIの規制環境と説明責任構造の実装についての知識を深めるために、企業は、AIをリードするために、技術と監督の間の会話を促進する新しい社会技術的職種の登場を促進する必要があります。この新しい職種は、技術と監督の間の仲介者として機能し、共通の基準と目標を開発する責任を負うことになります。
- 新しいAIパワードエクスペリエンスは、より厳格なガバナンスを要求する
意図した結果と予期せぬ結果の管理は、特にメタバースとウェブ3の世界に入るにつれて、非常に重要です。AIのリスクは、現実の世界と仮想の世界の両方で存在しますが、後者ではさらに増大します。
企業がAIの監督の欠如とともにメタバースに飛び込むと、顧客はアイデンティティの盗難や詐欺などの課題にさらされる可能性があります。AIとガバナンスの問題を現実の世界で解決することは、メタバースで顧客を安全に保つために不可欠です。
- 倫理的なAIガバナンスの新しいエコシステムが登場する
世界は、AIガバナンスが責任あるAIを実現するための基本的な構成要素であることを認識しました。次の数年間で、サービスプロバイダー、ツール、サービス、教育、能力のためのダイナミックで競争的な市場が登場することを期待しています。
さらに、MLOpsとGRCプラットフォームの既存の統合と拡張を通じて、AIにガバナンスと評価の機能をもたらすことも期待しています。
クレドーAIについてさらに共有したいことはありますか?
倫理的なAIガバナンスは、将来に投資することができないものです。今日が始める最良の日です。
詳細なインタビューとAIガバナンスおよび倫理に関する洞察を共有してくれてありがとう。さらに学びたい読者は、クレドーAIを訪問してください。
