Jonathan Dambrot、Cranium AIのCEO & 共同創設者 – インタビュー・シリーズ

Jonathan Dambrotは、Cranium AIのCEO & 共同創設者です。Cranium AIは、サイバーセキュリティとデータサイエンスのチームが、AIがシステム、データ、またはサービスに与える影響を理解するのを支援する企業です。

Jonathanは、KPMGの元パートナーであり、サイバーセキュリティ業界のリーダーであり、ビジョナリーです。KPMGに入る前、PrevalentをGartnerとForresterの業界リーダーに導き、その後2016年末にInsight Venture Partnersに売却しました。2019年、JonathanはPrevalentのCEO役を新しいリーダーシップの下で会社の成長を続けるために移譲しました。彼は数多くの出版物で引用され、IT、情報セキュリティ、コンプライアンスのトレンドについてクライアントのグループに定期的に話しています。

Cranium AIの創設ストーリーを共有してください。

私は、2021年6月にKPMGでThird-Party Securityサービスを世界的に担当していたときに、Craniumのアイデアを思いつきました。私たちは、AIを利用したソリューションをいくつかの大きなクライアントに構築して提供していましたが、セキュリティを確保するための何もしていないことがわかりました。そこで、私は同じ質問を私たちの大きなクライアントのサイバーセキュリティリーダーに尋ね、答えは同様にひどいものでした。多くのセキュリティチームは、データサイエンティストと話をしたことがなく、技術について話すときに完全に異なる言語を使用していたため、エンタープライズ全体で動作するAIについての可視性はゼロでした。すべてのこれらの要因と、規制の開発の着実な成長が、AIのセキュリティを提供するプラットフォームを構築するための引き金となりました。私たちは、KPMG Studioのインキュベーターと協力し、いくつかの大きなクライアントを設計パートナーとして開発のニーズを満たすために参加させました。今年1月、Syn Venturesがシード資金を提供し、KPMGから独立して3月に独立し、2023年4月にステルスモードから出ました。

Cranium AI Cardとは何か、それはどのような重要な洞察を提供しますか?

Cranium AI Cardにより、組織はクライアントや規制当局とAIモデルの信頼性とコンプライアンスに関する情報を効率的に収集して共有でき、ベンダーのAIシステムのセキュリティに関する可視性を得ることができます。最終的には、セキュリティとコンプライアンスのチームに、サプライチェーン内のAIのセキュリティを視覚化して監視する能力を提供し、AIシステムを現在および将来のコンプライアンス要件とフレームワークに合わせて、AIシステムがセキュアで信頼できることを簡単に共有する能力を提供したいと考えています。

人々がAIに対して抱く信頼性の問題は何か、それらがこのソリューションによってどのように解決されますか?

一般的に、人々は、特に日常のワークフローが何らかの形でAIによって影響を受ける場合、使用しているAIの背後にあるものを知りたいと考えています。私たちは、クライアントがすぐに受けるであろう質問に答える能力を提供したいと考えています。たとえば、「これはどのように管理されていますか?」、「データとモデルをセキュアにするために何が行われていますか?」、「この情報は検証されていますか?」AIカードにより、組織はこれらの質問に迅速に対応し、AIシステムの透明性と信頼性を示すことができます。

2022年10月、ホワイトハウスの科学技術政策局（OSTP）は、AIの責任ある使用に関する非拘束的なロードマップである「AIの権利の青写真」を発表しました。貴方の個人的な見解をこの法案の長所と短所について話してください。

ホワイトハウスが最初のステップとして、責任あるAIの指針を定義したことは非常に重要ですが、組織ではなく個人にAIベースの決定を不服とするための指針を提供するために十分ではないと考えています。将来の規制ガイダンスは、AIシステムの提供者だけでなく、安全でセキュアな方法でこの技術を利用できるようにユーザーにも提供されるべきです。最終的には、AIシステムはより安全で、より包括的で、より透明性のあるものになります。しかし、組織が将来の規制に備えるためのリスクベースのフレームワークがない場合、特に透明性と説明可能性の要件を満たすことが技術的に不可能な状況では、イノベーションのペースが遅くなる可能性があります。

Cranium AIは、この権利の章で企業が従うのを支援する方法は何ですか?

Cranium Enterpriseは、安全でセキュアなシステムを開発して提供するのを支援します。これは、権利の章の最初の重要な原則です。さらに、AIカードにより、組織はAIシステムの動作と使用するデータについての詳細を共有することで、通知と説明の原則を満たすことができます。

NIST AIリスクマネジメント・フレームワークとは何ですか、それは企業がこのフレームワークのAIコンプライアンス義務を果たすのをどのように支援しますか?

NIST AI RMFは、組織がAIに関連するリスクを個人、組織、社会に対して管理するためのフレームワークです。成功したリスクマネジメント・プログラムの成果をアウトラインすることで、他のNISTのフレームワークと同様の構造をとっています。私たちは、AIカードをこのフレームワークの目的と一致させることで、組織がAIシステムがフレームワークとどのように一致するかを追跡するのを支援しています。また、エンタープライズ・プラットフォームはすでに多くの情報を収集しているため、一部のフィールドを自動的に埋め込んで検証することができます。

EU AI法は、最近の歴史上で見られた最も重要なAIの立法の1つです。なぜ、EU以外の企業もこれに従うべきですか?

データプライバシーのGDPRと同様に、AI法は、グローバル企業がAIシステムを開発して運用する方法を根本的に変えるでしょう。EU以外の企業でも、EUの市民を使用または影響するAIシステムは、企業の管轄区域に関係なく、要件の対象となるため、要件に従う必要があります。

Cranium AIは、EU AI法の準備をしていますか?

Craniumでは、AI法の開発から始めて、AIカード製品をコンプライアンス要件を満たすために設計しました。AI法の初期段階から認識し、それがどのように進化したかを理解しているため、良いスタートを切れたと考えています。

企業にとって、責任あるAIはなぜ優先事項になるべきですか?

AIがビジネスプロセスや機能に組み込まれるスピードは、責任あるAIを優先しないと、すぐに失敗する可能性があります。責任あるAIを最初から優先することで、企業はより効果的に拡大し、将来的に大きな障害やコンプライアンスの問題に遭遇することができます。

あなたのCranium AIの将来のビジョンは何ですか?

私たちは、Craniumをセキュアで信頼できるAIの真正のカテゴリの王にすることを目指しています。私たちがすべての問題を解決することはできません。たとえば、倫理的な使用や説明可能性などの複雑な課題ですが、責任あるAIの他の分野のリーダーと協力して、クライアントが責任あるAIのすべての分野をカバーすることができるエコシステムを推進したいと考えています。また、革新的なジェネレーティブAIソリューションの開発者と協力して、これらの機能のセキュリティと信頼性を支援したいと考えています。私たちは、Craniumが世界中の企業がセキュアで信頼できる方法でイノベーションを続けることを可能にすることを望んでいます。

素晴らしいインタビュー、詳細を知りたい読者はCranium AIを訪問してください。