キリアン、Ethycaの創設者兼CEO – インタビュー・シリーズ
著者 Antoine Tardif, Unite.AIのCEO兼創設者 キリアン、Ethycaの創設者兼CEOは、データを大量に扱うテクノロジー企業を立ち上げることが2回以上あるシリアル・エントレプレナーであり、プライバシー・エンジニアでもあります。Ethycaを2019年に創設する前に、デジタル・エージェンシーCKSKを10年間率い、その後、BrandCommerceを創設しました。Ethycaでは、キリアンは、プライバシーとデータ・ガバナンスを、主に手動で行うコンプライアンス機能から、組織がテクノロジーを構築して運用する方法に直接組み込むことができるインフラストラクチャに変革することに焦点を当てています。Ethycaは、機密情報を発見し、同意を管理し、プライバシー要求を満たし、データの使用を規制するルールを適用するための信頼できるデータ・インフラストラクチャを開発しています。そのプラットフォームは、Fidesと呼ばれるオープンソースのガバナンス言語を中心に構築されており、システム、API、およびAIパイプライン全体で許可されたデータの使用を定義、監査、および適用するための一貫したフレームワークを作成します。同社は現在、Astralisと呼ばれるAIガバナンス層を立ち上げており、自動化された規制評価と目的ベースのアクセス制御を組み合わせて、組織がモデルやエージェントが特定のデータにアクセスする理由を判断し、実時間でそれらのアクセスを適用できるようにしています。Ethycaによると、このプラットフォームは、従来40～60時間かかる手動評価を20～40分に短縮でき、企業がAIの展開を拡大する際にガバナンスプロセスがボトルネックにならないようにしています。あなたは2019年にEthycaを立ち上げる前に、CKSKを10年間率いて、Fortune 500企業向けのグローバルデジタルコンサルタントを構築しました。どのような経験が、データガバナンスが企業のAIアドプションのボトルネックになることをあなたに確信させましたか。私はデジタルコンサルタントを経営して、Heineken、Sony、Pepsiなどの大企業にサービスを提供していました。毎回同じパターンが繰り返されていました。強力なテクノロジーが登場し、誰もがそれを採用しようとし、そしてそれがビジネスに組み込まれた後、規制当局が現れてガイドラインを設定し、コンプライアンスチームがその結果に対処する必要が出てきました。GDPRは、企業が個人データを使用する方法に対する最初の本格的な規制です。規制当局は、マーケティングとソーシャルメディアがすでにビジネスモデルの骨格としてデータ収集を使用していた後に介入しました。同じパターンがAIでも発生することは明らかでした。私の勘が固まったのは、Ethycaでのプライバシー・コンプライアンス作業でした。企業向けのコンプライアンスシステムを構築し、データの要求を3つの点で評価するレイヤーを実装しました。何が許可されているか、データは何なのか、使用した場合のリスクは何なのか。実際の制約が明らかになったのは、企業がデータに不足しているのではなく、データの使用を許可するガバナンス層が不足していることだったということです。2019年に私たちがした賭けは、AIの出現によりさらに重要性を増しました。企業のAIは、単純なチャットボットから、決定を下し、行動を起こすことができる自律的なAIエージェントに移行しました。この進化は、企業が直面するガバナンスの課題をどのように変えましたか。従来のコンプライアンス・アプローチはなぜもう適切ではありませんか。企業のAIについて、そしてそのROIについて話すとき、価値は単にエージェントをワークフローに接続することから来ると考えられがちです。しかし、実際の価値は、エージェントを幅広いシステムに接続することから来ています。そうすることで、エージェントはデータを総合して、人間が同じ時間内で集めることができない出力を生成できます。データへのアクセスがボトルネックです。エージェントが価値のあるものになるのと同じことが、リスクも生み出します。接続するシステムが増えるにつれて、データが組織内のさまざまな部分間で流れ出し、毎回データが間違った場所に終わる可能性のあるフローが生まれます。それぞれのフローをチェックする必要があります。データをこのように使用することが許可されているか、プライバシー法と独自のポリシーに従っていますか。毎日何度か決定を下す場合、人間がそれぞれの判断を下すことができます。しかし、AIエージェントが1秒間に何千も要求を送信する場合、人間がそれを処理することは不可能になります。那が伝統的なコンプライアンスが崩壊するポイントです。大きなAI企業の評価が実現されるためには、ガバナンスはリアルタイムで、機械のスピードで、データがアクセスされる瞬間に発生する必要があります。Ethycaは、Astralisと呼ばれる企業AIのガバナンス層を立ち上げています。どのような顧客の課題がこのプラットフォームの創出につながりましたか。なぜ今がその導入の適切な時期であるのか。AI用データのクリアリング作業は、2016年のプライバシー作業と同様に、まだ手動で行われています。人が質問紙を埋め、評価を実行します。そのプロセスは、通常のプライバシー作業にはすでに遅すぎるものであり、AIの使用例の量に対しては、全く機能しません。現在販売されているAIガバナンスのほとんどは、AIラベルが付いた同じフォームとワークフローです。フォームを埋めることはガバナンスではありません。ソフトウェアがガバナンス作業自体を実行するものが必要です。手動で行った人の記録を生成するのではなく、それがAstralisを構築するために行ったことです。私たちが対応している需要は、安全に迅速にAIを出荷するように指示されたチームから来ています。現在、エージェントはチームが追跡できるよりも速く生産に入っています。規制当局が尋ねる質問は変わりました。以前はポリシーがあるかどうかでしたが、現在は特定のデータに対して特定の目的でポリシーが遵守されたかどうかです。ほとんどの企業は最初の質問にうまく答えることができますが、後者の質問にはほとんどの企業がうまく答えることができません。ガートナーは、2028年までに平均的なフォーチュン500企業が15,000個のAIエージェントを実行している可能性があると予測しています。企業のリーダーは、自律的なエージェントが人間の従業員よりも多くデータにアクセスする可能性がある世界で、ガバナンスをどのように再考するべきですか。2028年までに、企業のデータにアクセスするエージェントの数は、従業員の数を上回ることになります。機械がデータを使用するアクターが圧倒的に多い場合、誰が責任を負うのでしょうか。旧来のモデルでは、最終的な人間の承認に責任がありますが、決定のほとんどが人間によって行われていない場合、責任は人間からシステムに移行する必要があります。銀行は長い間この移行をしています。銀行を信頼するのは、店員が手でお金を数えているからではありません。銀行を信頼するのは、コントロールが健全であり、システムを維持する責任者がいるからです。データガバナンスも同じです。データを責任を持って扱っているという証拠は、人によってレビューされたということではなく、システムが自動的にポリシーを適用し、証拠を提供できることです。そうすることで、ビジネスリーダーは判断を下し、ルールを設定し、システムを支持することに集中できます。Astralisは、LLRM（Large Language Regulatory Model）とPBAC（Purpose-Based Access Control）を組み合わせています。これらの2つのテクノロジーはどのようにしてAIシステムがデータにアクセスできる理由を理解するだけでなく、誰がアクセスできるかを保証するために共同で機能しますか。従来のアクセス制御では、誰がアクセスできるかを確認します。アイデンティティが特定のデータにアクセスできるかどうかを確認します。しかし、プライバシーは異なります。誰がアクセスできるかという問題ではありません。完全に承認された人がデータセットにアクセスしていても、許可されていないことを行う可能性があります。重要なのは、データが使用される目的と、許可されているかどうかです。PBACが回答し、適用します。難しいのは、目的が技術的な事実ではなく、ビジネスが何をしているか、顧客に何を約束したか、法律が何を許可しているかによって決まることです。LLRMが必要なのは、そのためです。LLRMは、特定のビジネスがどのように運営されているかを学び、適用される規制を理解し、出力としては、各種のデータが何に使用できるか、使用できないかを明確に決定します。PBACは、決定を適用します。LLRMは推論し、PBACは行動します。あなたの発表では、AIの評価が40～60時間の手動作業から20～40分に短縮できることを示しています。現在のガバナンスプロセスのどの部分が最も非効率的であり、自動化によって最大の利益が得られるのか。その40～60時間のうち、ほとんどは人間の判断が必要なものではありません。アセンブリに費やされています。誰かがデータを手動でマッピングし、スプレッドシートに保持し、コンテキストをチーム間で追跡します。すべてが収集されたとき、実際の評価、人間の判断が必要な部分は、作業の小さな部分です。残りは、ビジネスがすでに持っている情報を収集するための専門家としての作業です。それは決して終わることのない作業です。評価は一度だけのスナップショットですが、AIの使用例は終わりません。新しいものが不断に現れ、各自がレビューが必要です。手動プロセスは、遅いだけでなく、ビジネスが進みたいペースに常に後れを取ることになります。効率性の向上は、誰が何をしているかを変えることから来ています。システムがメタデータを自分で取得するので、誰もが手動でコンテキストを追跡する必要はありません。システムは、人間が答えることができる質問、真正の判断を求める質問のみを提示します。評価が行われると、監査証跡が自動的に構築され、後から記憶から書き出すのではなく、作業が行われます。那が40時間を40分に変えることです。大手米国の金融機関がAstralisを通じて約6,000のガバナンス要求を1秒間に処理していることが分かりました。企業AIの将来のインフラストラクチャ要件について、このようなスケールでの運用は何を教えてくれますか。教訓は、ガバナンスが別のステップではいけません。6,000の決定を1秒間に下す場合、データパス自体の中で、クエリやモデルと同じスピードで発生する必要があります。AIの場合、ガバナンスはインフラストラクチャでなければなりません。常にオンで、常にライン上で、報告書として生成されるのではなく、サイドで生成されるのではなく。速さが必要です。ガバナンスが遅い場合、締め切りに合うためにスキップされることになります。AIの規制は、米国とヨーロッパの両方で急速に進化を続けています。法的枠組みの変更に応じて、企業を手動でポリシーを更新する必要なくガバナンスプラットフォームを構築するには、どうすればよいですか。ほとんどのコンプライアンスツールが犯す間違いは、ルールを製品に組み込むことです。規制が変更されると、ツールを再エンジニアリングするためにベンダーを待たなければなりません。Astralisは、その逆の方法で構築されています。基盤には、データとその使用を記述するための共通言語があり、ルールは一切保持しません。ルールは、その上にあるポリシーレイヤーに配置されます。LLRMは規制を読み取り、特定のビジネスに何を意味するかを理解し、ポリシーをそれに応じて書きます。PBACは、そのポリシーを適用します。規制が変更されると、企業の努力はビジネスに何を意味するかを理解することに集中できます。ガバナンスシステムを再エンジニアリングする必要はありません。多くの幹部は、許可されていない決定や機密情報へのアクセスをしている、異常なAIエージェントについて心配しています。現在、どの程度の懸念事項ですか。組織は、AIエージェントを大規模に展開する前に、どのような実用的な保護策を実装する必要がありますか。それは完全に現実的な懸念事項であり、すでに起こっています。カリフォルニア州は、ディズニーに275万ドルの罰金を課しました。ディズニーのシステムでは、基本的なものである顧客のオプトアウトを信頼性高く適用できませんでした。システムでは、顧客が1つのデバイスでオプトアウトしても、他のデバイスではオプトインのままだったし、ブラウザーレベルのオプトアウト指示は有効なリクエストとして扱われませんでした。那はエージェントが予期せぬ行動をとったことによるものではなく、ディズニーのシステムが顧客に約束したことと実際に適用できたことの間にある明らかなギャップによるものでした。実際にそのような事態を防ぐための保護策は、魅力的ではありません。どのようなデータを持っているか、そしてそれについて何を約束したかを把握し、すべてを1つの場所に保持します。ほとんどのそのような失敗は、1つのチームの約束が別のチームのデータベースに届かないことから生じます。3～5年先を見て、企業のAIの運用化に成功する企業と、AIイニシアチブがパイロットプロジェクトのままになる企業とを、どのような点が異なると考えていますか。ガバナンスは、競争上の優位性を創出する上でどのような役割を果たすでしょうか。違いは、企業がデータを1つのシステムで管理しているか、各部門やチームごとにガバナンスを管理しているかどうかにあります。部門ごとにガバナンスを管理している企業は、壁に当たるでしょう。AIは設計上、部門を跨いでいます。すべてのデータを1つのシステムで管理している企業は、AIを迅速に展開し、規制当局の手紙を受け取らないようにすることができます。誰もが1つだけを解決するのではなく、両方を解決する企業が10年を勝ち取ります。素晴らしいインタビュー、ありがとうございました。詳しく知りたい読者は、EthycaまたはAstralisを訪問してください。
