デビッド・マハー、インタートラストのCTO – インタビュー・シリーズ

デビッド・マハーは、インタートラストのエグゼクティブ・ヴァイス・プレジデント兼チーフ・テクノロジー・オフィサーを務めています。信頼できる分散システム、セキュアなシステム、リスク管理に関する30年以上の経験を持つデビッドは、会社の関連会社での研究開発の指揮と重要なリーダーシップの役割を果たしてきました。彼は、デジタルメディアとIoTのための認証局であるSeacert Corporationの元社長であり、ソフトウェアの自己防衛システムの開発会社であるwhiteCryption Corporationの元社長でもあります。また、世界で唯一の独立したデジタル著作権管理エコシステムを管理するMarlin Trust Management Organization (MTMO)の共同会長も務めています。

インタートラストは、分散オペレーティングシステムがオープンなネットワーク上でデータと計算をセキュアに保護し、管理することを可能にする革新を開発し、信頼できる分散コンピューティングに関する基礎的な特許を取得しました。

もともと研究に根ざしていたインタートラストは、IoTやAIのデバイスとデータの操作を統合する信頼できるコンピューティングサービスを提供する製品中心の会社に進化しています。彼らの市場には、メディア配信、デバイスのアイデンティティ/認証、デジタルエネルギー管理、分析、クラウドストレージのセキュリティが含まれます。

AIの信頼性のギャップをどのようにして埋め、AIの安全性と信頼性に関する一般の人々の懸念をどうやって解決することができるのか?

透明性は、AIに関する懸念を解決する上で最も重要な特性だと思います。透明性には、AIメカニズムがシステムの一部であること、AIモデルのトレーニング方法、ガードレールの存在、モデル開発に適用されたポリシー、安全性とセキュリティに関する保証など、消費者と技術者が理解できる機能が含まれます。より多くの透明性によって、実際のリスクと問題に対処し、非合理的な恐怖や推測に惑わされることが少なくなります。

AI出力の信頼性を確保する上で、メタデータ認証がどのような役割を果たすのか?

メタデータ認証は、AIモデルの信頼性に関する保証が信頼できるものであることを確認するのに役立ちます。AIモデルのカードは、AIメカニズム（モデル、エージェントなど）の特定の目的での使用を評価するのに役立つメタデータのコレクションの例です。モデルカードの明確性と完全性に関する標準を確立し、パフォーマンス、偏り、トレーニングデータの特性などに関する量的測定と認証された主張に関する標準を確立する必要があります。

組織は、LLM（大規模言語モデル）におけるAIの偏りと幻覚をどのようにして軽減することができるのか?

レッドチームは、モデル開発とリリース前のリスクに対処するための一般的なアプローチです。もともとセキュアなシステムの評価に使用されていたこのアプローチは、現在AIベースのシステムでも標準になっています。システムの全ライフサイクル、初期開発からフィールドへの展開まで、リスク管理のシステムアプローチです。特に、モデルに使用されるトレーニングデータの分類と認証が非常に重要です。

企業は、AIシステムの透明性をどのようにして確保し、「ブラックボックス」問題に関連するリスクをどのようにして軽減することができるのか?

企業は、モデルをどのように使用するか、内部での使用や顧客への提供に関わる可能性のあるリスクを理解する必要があります。次に、デプロイされるAIメカニズムの「血統」、モデルカードの主張、レッドチームの試験結果、会社の特定の使用に関する差分分析、正式に評価されたもの、他の人の経験などを理解する必要があります。現実的な環境での包括的なテスト計画による内部テストは絶対に必要です。この分野でのベストプラクティスは進化しているため、最新の情報を把握することが重要です。

AIシステムは、どのようにして倫理的なガイドラインを念頭に設計することができるのか? また、さまざまな業界でこれを実現する上での課題は何があるのか?

これは研究されている分野であり、多くの人は、倫理の概念と現在のAIのバージョンが相容れないと主張しています。たとえば、人間が理解するような単純なルール「嘘をつくな」は、AIメカニズムで確実にすることが難しいからです。ただし、目標ベースの学習における相互作用と目標の対立の慎重な分析、不確かなデータやディスインフォメーションの除外、倫理原則の違反をテストするためのアウトプットフィルタの使用を要求するルールの構築などを検討する必要があります。同様に、偏りの徹底的なテストにより、モデルを倫理原則とより一致させることができます。ただし、これらの多くは概念的なものであるため、AIメカニズムが人間と同じように指示を「理解」しないことを念頭に置いて、特定のアプローチの影響をテストする必要があります。

AIがIoTシステムとより多く統合される将来、AIはどのようなリスクと課題に直面する可能性があるのか?

私たちは、AIを使用して、クリティカルなインフラストラクチャのプロセスを最適化するシステムを自動化したいと思います。たとえば、仮想パワープラントを使用してエネルギーの配送と使用を最適化できることはわかっています。これは、エネルギーの生産、保存、使用の要素を数千個調整することによってのみ実現可能であり、また、AIを使用して分単位の意思決定を支援する必要があります。システムには、消費者とサプライヤーの利益のために競合する最適化の目的を持つエージェントが含まれることになります。AIの安全性とセキュリティは、こうしたシステムの広範な展開において非常に重要になります。

AIシステムにおけるエンティティの信頼できる識別と認証のために、どのようなインフラストラクチャが必要なのか?

AIシステムとその展開のすべての側面を評価するエンティティが、AIシステム、ペディグリー、利用可能なトレーニングデータ、センサーデータの出典、セキュリティに関連するインシデントやイベントなどについて、信頼できる主張を発表できるように、信頼できるインフラストラクチャが必要です。このインフラストラクチャは、システムのユーザーがシステムの保証や主張を効率的に検証できるようにする必要があります。

現在インタートラストで何を開発しているのか、そしてそれが今回の話題とどのように関連しているのかについて、詳しくお話しください。

私たちは、前の質問で説明した信頼管理インフラストラクチャを提供できるテクノロジーを研究し、設計しています。特に、IoTシステムに含まれるAIコンポーネントが生じるスケール、待ち時間、セキュリティ、相互運用性に関する問題に取り組んでいます。

インタートラストのPKI（公開鍵基盤）サービスは、IoTデバイスをどのようにしてセキュアにし、また、大規模な展開に対してどのようにしてスケーラブルにしているのか?

私たちのPKIは、デバイスとデジタルコンテンツのガバナンスを含む信頼管理のために特別に設計されました。私たちは、コンプライアンスを保証するために、数十億の暗号鍵と証明書を展開しています。現在の研究では、巨大な産業用自動化と世界的な重要インフラストラクチャが必要とするスケールと保証に焦点を当てています。ゼロトラストの展開のベストプラクティスと、数兆のセンサーとイベント発生源を処理できるデバイスとデータの認証についても研究しています。

なぜNISTのAIイニシアチブに参加したのか、そしてあなたの関与は信頼できるかつ安全なAI標準の開発にどのように貢献するのか?

NISTは、セキュアなシステムにおける標準とベストプラクティスの開発において、豊富な経験と成功を積み上げてきました。インタートラストのUS AISICのプリンシパル・インベスティゲーターとして、私は、AIメカニズムを含む信頼管理システムにおける重要な標準とベストプラクティスのために、主張することができます。過去の経験から、NISTが進歩と産業の協力を促進しながら、重要な技術標準を策定して推進するアプローチを特に高く評価しています。これらの標準は、有益なテクノロジーの採用を促進し、社会が直面しているリスクに対処することができます。

素晴らしいインタビュー、ありがとうございました。詳しく知りたい読者は、インタートラストを訪問してください。