トランスセンドのRowan Stewart氏、AI安全性＆プラットフォーム担当シニアディレクター – インタビューシリーズ

Rowan Stewart氏は、トランスセンドのAI安全性＆プラットフォーム担当シニアディレクターです。彼女は、組織が人工知能システムでデータを安全に発見、管理、使用できるようにするための製品イニシアチブを主導しています。彼女は、AIおよび機械学習製品開発、エンタープライズソフトウェア、自然言語処理、データ戦略、ゼロからワンへの製品リーダーシップなど、10年以上の経験を持っています。トランスセンドに入社する前は、BCG Xで約6年間、主要企業のAI戦略の開発、内部プロセスの再構築、測定可能なビジネス成果をもたらす製品の構築を支援しました。彼女のキャリアの初期には、インフルエンサーのインテリジェンスプラットフォームの自然言語処理APIの開発を担当しました。

トランスセンドは、唯一の自律データ決定プラットフォームで、企業の成長を拡大するために「このデータを使用できますか?」という質問に答えることができます。フォーチュン500企業や新興のカテゴリーリーダーは、トランスセンドを使用して、顧客データを処理するエンタープライズシステムに完全なデータ使用許可を直接組み込み、同意、好み、ビジネスルールのリアルタイムソースを提供しています。結果は、優れたデータ品質、ブランドを保護する倫理的な使用、拡大された監査対応の準備完了です。トランスセンドを使用すると、企業は、AI、パーソナライゼーション、その他の第一方データイニシアチブから収益を確実に解放できます。2017年にベン・ブルック（CEO）とマイク・ファレル（CTO）によって設立されたトランスセンドは、サンフランシスコ湾エリアに本社を置いています。

BCG Xで約6年間、世界的大企業にAIおよび機械学習ソリューションの導入を支援した後、トランスセンドでAI安全性およびガバナンスに携わるようになりました。ガバナンスの失敗や盲点が、システムに組み込まれたガバナンスの必要性を実感したのは何ですか?

BCGでは、AIの成熟度のすべての段階にある企業と仕事をしましたが、1つのパターンが印象に残りました。ガバナンスは常に遅れて登場します。チームはモデルや製品を迅速にリリースするために動きますが、データ許可、同意、または監督に関する話し合いは、実際に製品がリリースされる直前に焦点を当てられ、パッチのように感じられます。設計段階でガバナンスを念頭に置いていないシステムに、後からパッチを当てようとしているのです。

それが私がトランスセンドに参加した理由の1つです。企業に何をするべきかについてアドバイスすることには限界があります。私は、ガバナンスが容易な選択肢になるようなインフラストラクチャを構築したいと思っていました。

多くの組織は、カスタマーサポート、運用、ナレッジワークにAIエージェントを展開しています。従来のソフトウェアシステムや以前のAIモデルと比較して、自律的なAIエージェントのガバナンスはどのように異なりますか?

ほとんどのエンタープライズセキュリティアーキテクチャは、人間がすべてのアクションの背後にあると想定しています。人間は特定でき、信頼でき、問題が発生した場合に責任を負うことができます。しかし、エージェントは人間ではありません。エージェントは独自に動作し、他のエージェントにタスクを割り当て、決定を連鎖させ、1人の責任者に帰属することはほとんどありません。

従来のアイデンティティおよびアクセス管理のプレイブックは、エージェントに静的な許可を与えることを想定していますが、エージェントは人間のような共通の感覚を持っていません。ガバナンスは、エージェントが特定のアクションを実行しようとしている時点で、特定のデータを使用して、評価する必要があります。ほとんどの企業は、人間用に構築されたアイデンティティおよびアクセス管理のプレイブックをまだ実行していますが、エージェントの展開がガバナンスのギャップを明らかにするでしょう。

あなたは、NLP製品やインフルエンサープラットフォームからエンタープライズAI変革イニシアチブまで、AIイノベーションの複数の波に携わってきました。過去10年間で、AI安全性の話し合いはどのように進化してきましたか? まだ心配していることは何ですか?

今日（そして明日！）のAIを過去の世代と比較することは、非常に速いペースで進化している分野です。過去1、2年の最も重要な進化は、エージェントの台頭と、長期的なメモリ管理（OpenClawなど）の重要性です。これらのエージェントは、以前よりもはるかに多くのことができるようになり、より高品質で、より貴重で、当然、よりリスキーになりました。

AIシステムが顧客データや企業データを使用して決定を下すようになると、企業は、AIドリブンの環境における同意、許可、データガバナンスについてどのような誤解を抱いていますか?

最も一般的な誤解は、同意を1回取得してファイルに保存することです。顧客はサインアップ時に一連の条件に同意し、企業はその同意が無期限に有効であると想定しています。ただし、同意はデータとともに移動する必要があります。顧客が好みを更新したり、新しい規制が許可されるものを変更したりした場合、その変更は、データが存在するすべての場所に反映される必要があります。

2番目の誤解は、許可を技術的な詳細として扱い、ITまたは法務がバックグラウンドで静かに処理することです。ただし、AIシステムがデータに基づいて決定を下し始めると、許可は製品およびビジネス上の質問になります。許可のギャップは、AIイニシアチブに直接継承されます。

多くの企業は、静的なポリシーと定期的なコンプライアンスレビューに依存しています。AIシステムが継続的に学習、適応、他のエージェントと相互作用できる時代に、これらのアプローチはなぜ苦労していますか?

静的なポリシーは、システムがどのように見えたか、どのようなことが許可されていたかを記述したものです。ただし、AIは静的な状態に留まることができません。ポリシーが書かれたモデルは、6か月後には実行されているモデルと同じではありません。四半期ごとの、または年度ごとのコンプライアンスレビューでは、常に変化するシステムを追跡することはできません。

ガバナンスを実施するには、データが実際に使用される場所で、リアルタイムで、ポリシーを実施する必要があります。事後的なチェックではなく、事前のチェックです。出版された文書に対する事後のチェックでは、すでに古い情報です。

企業が相互に協調し、複数の内部システムにアクセスするAIエージェントのネットワークを展開し始めたとき、有効なガバナンスはどのように見えますか?

これは、従来のアクセス制御の限界が明らかになる場所です。エージェントはレコードを読み取り、ツールを呼び出し、結果を別のエージェントに渡すことができます。各ステップは個別に見ると妥当ですが、連鎖的なアクションは、人間が明示的に承認したものではありません。従来のアイデンティティおよびアクセス管理では、エージェントがシステムにアクセスする許可を確認できますが、データが収集された同意がこの使用をカバーしているか、または連鎖的なアクションが人間によって承認されたかについては、ほとんど言及しません。

トランスセンドは、エンタープライズワークフローに直接データ使用許可を組み込むことに重点を置いています。AIの実験から本格的な展開への移行において、リアルタイムのガバナンスインフラストラクチャはどれほど重要ですか?

テスト中、チームは手動レビューと定期的な監査で事足りることができます。ステークは低いからです。ただし、実運用では、特にエージェントを使用する場合、スケールが大きすぎてこれは機能しません。現在のチェックリストと会議のシステムは、負け負けです。コンプライアンスとセキュリティチームは、実際の価値がないピンキーパromiseを取得します。一方、製品チームは、エンドユーザーに実際の価値を提供しない面倒な手動レビューにコミットされます。リアルタイムのインフラストラクチャが唯一のアプローチです。データが移動したり決定が下されたりする瞬間に許可を実施することで、ガバナンスがコンプライアンスとユーザーにとって有意義になるのです。

次の3〜5年で、エージェント型AIの最も重要なリスクは何ですか? どれが現在、ビジネスリーダーによって過小評価されていると考えていますか?

私は、エージェントがユーザーの許可を継承するモデルは、私たちが認識しているよりもリスキーであると思います。人間には判断力がありますが、AIは、人間が Cliffから飛び降りるように指示した場合でも、指示に従います。

製品チームは、AI機能を迅速にリリースする圧力と、ガバナンス、透明性、説明責任のフレームワークを確立する必要性のバランスをとるべきです。どのようにすればよいですか?

私は、1つの具体的な解決策は「Slop Tax」の修正であると考えています。私たちは、AI出力の有効性と価値をすでに迅速に再調整しました。なぜなら、適切なダッシュがあっても、標準のClaudeカラーパレットを使用すると安っぽく感じるからです。AIによって提供される情報は、真実であっても疑わしいと扱われるからです。実際の製品の価値に影響します。

Slop Taxの修正は、より良いガバナンスと透明性です。たとえば、最近、ベンダーAI使用状況という機能をリリースしました。これは、トップ企業のAI機能とガバナンスの姿勢に関する公開情報を提供し、AI有効化、セキュリティ、調達チームが仕事を迅速に実行できるようにします。マルチエージェントオーケストレーションフレームワークを使用し、証拠を収集して提示し、発見に対するソースリンクと引用を提供することで、結果の品質が大幅に改善されたことがわかりました。この証拠の収集とエージェントのQAの実践は、双方に利益があります。実際の結果はユーザーにとって優れており、コンプライアンスもより堅固です。

先を見て、AIガバナンスは、コンプライアンス要件ではなく、競争上の優位性になるでしょうか? それを達成する企業と、後れを取る企業を何が区別するのでしょうか?

私はそう思います。それは、私がBCGで見た同じパターンに戻ります。製品がすでに市場に出ている段階でガバナンスを追加する企業は、最後の瞬間にキャッチされ、スケーリングの前に「パイロットパージャトリー」に陥ることが多かったです。ガバナンスをシステムに組み込んだ企業は、後者のグループが持っていない種類の信頼性で動くことができます。なぜなら、彼らは、AIが実際にどのようにデータを使用しているかを細かく調べることなく、動くことができるからです。

そのギャップは、エージェントの展開が進むにつれて拡大するだけです。エージェントを展開するために最も急いでいる企業は、ガバナンスを再考することなく、トラブルに遭遇する可能性が最も高いです。そうした企業が問題に直面する頃には、インフラストラクチャを正しく構築した企業は、後発企業が簡単に追いつけない速度で動いています。ガバナンスは、コンプライアンスの項目ではなく、AIをより迅速に、より自信を持って展開できるものになるのです。

素晴らしいインタビュー、詳しく知りたい読者はトランスセンドを訪問してください。