Ali Sarrafi、Kovant CEO兼創業者 – インタビューシリーズ
Ali Sarrafiは、ストックホルムを拠点とする経験豊富なテクノロジーおよびAIエグゼクティブであり、高成長AI企業の構築とスケーリングの実績を持つKovantのCEO兼創業者です。2024年末にKovantを創業して以来、彼はエンタープライズAI戦略、市場投入実行、および事業拡大における深い経験を活かしています。以前は、AMDによる買収後のSilo AIで戦略担当副社長を務め、エンタープライズAI戦略の策定と大規模な導入の推進を担当しました。キャリアの初期には、Combient Mixを共同創業し、同社を急成長させSilo AIによる成功裏の買収へと導きました。その後、教育およびAIスタートアップにおいてアドバイザーや取締役を歴任し、高度なAIを現実世界のビジネスインパクトに変換することに一貫して焦点を当ててきました。Kovantは、組織が実験的なAI利用から完全に運用可能で自律的なビジネスプロセスへ移行することを可能にするエンタープライズAI企業です。同社は、調達、サプライチェーン、コンプライアンス、顧客オペレーションなどの複雑な運用領域にわたってAIエージェントのチームを調整するために設計されたエージェントベースのプラットフォームを開発しています。安全でエンタープライズグレードの導入と迅速な価値実現を重視することで、Kovantは戦略的AIの野望と日々の実行との架け橋として自らを位置づけ、大規模組織がAIを単体のツールやパイロットプロジェクトとして扱うのではなく、コアワークフローに直接組み込むことを支援します。Spotifyでの主要なAIイニシアチブを率い、Combient Mixをスケールさせてエグジットし、その後Kovantを創業する前にSilo AIでエンタープライズAI戦略を策定されました。それらの役職で遭遇した、自律的なエンタープライズプラットフォームを構築する時期が適切であると確信させた具体的なギャップや不満は何ですか？また、その歴史はKovantのコアデザイン哲学をどのように形作りましたか？これまでの役職を通じて、いくつかの一貫したギャップが繰り返し現れました。第一に、ほとんどの「垂直型」AIツールは事実上単一のソフトウェアスタックに閉じ込められています。それらのツールはその境界内で一つのことをわずかに良く行いますが、ワークフローが複数のシステムにまたがる必要が生じた瞬間に対応できません。同時に、エンタープライズデータは多くのツールに散在しており、多くの自動化ソリューションは単にそれにアクセスできないのです。長年にわたるポイント統合を重ねると、古典的なスパゲッティアーキテクチャが生まれます。複雑性が増し、変更が遅くなり、チームはワークフローをエンドツーエンドで再構想するのではなく、個々のステップを自動化することになります。その結果、ROIは組織が期待するよりも遅く、そして小さくなることが多いのです。Kovantはその現実への対応として設計されています。私たちのコア哲学は、エージェントは従業員のように振る舞うべきだというものです。彼らは複数のツールにまたがって作業し、単一のスクリプト化されたシーケンスを自動化するためではなく、「仕事をするために雇われる」のです。それが、統合とオーケストレーションが組み込まれている理由であり、エンタープライズデータはしばしば乱雑で非構造化であると想定する理由です。例外や曖昧さを処理するには、より人間に近いアプローチが必要です。私たちは基盤エージェントを使用して速度と規模を実現しながら、データ主権を最優先に保っています。エンタープライズは、データを自社の敷地から離すことなく、水平的にアクセスして使用できます。Kovantは、AIエージェントで事業全体や部門全体を運用できる自律的なエンタープライズプラットフォームとして自らを位置づけています。エンタープライズの文脈で「自律的」をどのように定義しますか？また、これは企業が現在すでに実験している自動化やエージェントツールとどのように異なりますか？エンタープライズの文脈で「自律的」と言うとき、私たちは「無監督」を意味するのではありません。AIエージェントが明確な目標とガードレールの下で事業全体にわたってエンドツーエンドで実際のアクションを起こせ、監督が必要な場合は人間にエスカレーションすることを意味します。Kovantを異ならせているのは、私たちの基盤エージェントです。単一の固定されたプロセスを自動化したり、事前に構築されたシーケンスに従ったりするのではなく、Kovantのエージェントは、指示と私たちがブループリントと呼ぶ運用概要だけを使用して、事業においてチーム（または群れ）として作業できます。それらは一つの狭いタスクのために設計されているのではなく、複雑なワークフローを解決し、条件が変化しても適応し、状況が監視を必要とするときは人に引き継ぎます。例えば、在庫管理エージェントチームは、以下を含むすべての作業をゼロから再構築することなく実行できます。メールによるサプライヤーとの通信、在庫レベルと在庫切れシグナルの監視、出荷と発注書の追跡、システム間でのステータス更新、在庫プランナーが承認する差異チケットの作成、倉庫間での在庫の再配分、在庫レポートの統合。つまり、変化は、「チャット＋ツール」やスケール時に壊れやすい自動化から、エージェントを構築することから、それらをスケールさせて運用することへと移行することです。エージェントAIに対する関心は非常に高いにもかかわらず、多くの組織はパイロットモードに留まっています。実際の導入現場でご覧になっていることから、企業が実験からスケールした本番運用へ移行するのに苦労する主な理由は何ですか？私たちが見ているのは、ほとんどの組織がアイデアが間違っているからパイロットモードに留まるのではなく、環境がスケーリングに敵対的であるために留まるということです。最初の障壁は、断片化されたエンタープライズ技術環境です。ワークフローは多くのシステムにまたがり、データは複数の場所に存在し、すべてを確実に繋ぎ合わせるのは困難です。そして、エージェントAIは、ワークフローをエンドツーエンドでどのように実行すべきかを再考する方法としてではなく、既存ツールへのアドオンとして導入されることが多いのです。また、本当のアーキテクチャとデータの問題もあります。多くのSaaSベンダーは依然としてデータを閉じ込めようとし、それにより非互換性が生まれ、エージェントがシステム間で実際に行えることを制限します。そして、多くのチームが、ほとんどのエンタープライズデータが非構造化（メール、文書、チケット、PDF、チャットログ）であるという事実を過小評価しています。もしあなたのアプローチがクリーンで構造化されたデータを想定しているなら、価値実現までの時間は長く、苦痛を伴い、パイロットを超えて複製するのが難しくなります。要約すると、断片化、ロックイン、非構造化データが抵抗を生み出し、それらの現実が設計に考慮されるまで、パイロットは本番運用に変わることはありません。信頼性は、現実世界でAIエージェントを導入する上で最大の障壁としてしばしば挙げられます。なぜ多くのエージェントシステムは、制御された環境を離れると失敗するのでしょうか？また、Kovantのアプローチは、幻覚や予測不可能な動作などの問題をどのように軽減しますか？一部のエージェントシステムはデモでは素晴らしく見えますが、現実世界では環境が乱雑で予測不可能であるために失敗します。データは不完全または一貫性がなく、エッジケース（返金、紛争、特別承認）が絶えず発生します。ワークフローは時間とともに変化する複数のツール、プラットフォーム、統合にまたがり、権限も様々です。AIエージェントに大きなタスクを処理するように求められ、一度に過剰なコンテキストが与えられると、幻覚や奇妙な動作のリスクが高まります。Kovantは設計によりこれを軽減します。私たちの独自のアーキテクチャは、モデルが扱う問題空間、意思決定空間、コンテキストを狭め、幻覚を減らします。また、事業を個々のエージェントとステップのための狭く焦点を絞ったタスクに分解します。これにより動作がより予測可能になり、システムに追跡可能性と制御可能性が加わり、幻覚をより良く管理できます。各エージェントが何をしたか、どこで失敗が始まったかを確認し、必要に応じて介入またはエスカレーションできます。幻覚は魔法のように消えるわけではありませんが、各エージェントの責任範囲を制約し、それが作用できるコンテキストを制限することで、その頻度を減らし、影響を限定できます。この「狭められたタスク/コンテキスト」アプローチは、Nvidiaの研究チームによる最近の研究でも支持されており、エージェントの意思決定を制約することから同様の利点が見出されています。AIエージェントがビジネスシステムで実際のアクションを起こし始めるにつれ、説明責任は主要な懸念事項です。詳細なアクションログは、信頼、コンプライアンス、運用リスクに関する議論をどのように変えますか？詳細なアクションログにより、何が起こったか、なぜ起こったか、次に何が起こるかを確認できます。詳細なログは、エージェントを機械の中で働く謎のボットから、検査可能なシステムへと変えます。Kovantでは、AIエージェントの導入には組織が対応できるリスクマップが存在し、リスクの高いアクションに対して人間による組み込みのゲートキーピングがあり、エージェントは人間が決定をレビューして承認した場合にのみそれらのタスクを実行できます。これらすべては、記録システムがログに記録されるのと同じ方法でログに記録され、追跡可能です。リスクを最小限に抑えるためには、アクションログと人間の監視、可観測性を組み合わせることが重要だと私たちは考えています。それは、実際の事業を実行するエージェントの速度と規模の利点を依然として得られることを意味します。AIエージェントはその不透明な意思決定のために、そもそも保険をかけられるかどうかについての議論が高まっています。エージェントのワークフローを監査可能かつ再生可能にすることは、「ブラックボックス」問題の解決にどのように役立ち、保険適用への道を開くのでしょうか？「ブラックボックス」問題は、保険適用を困難にしているものです。エージェントが何をしたか、なぜそれをしたか、どのようなコントロールが存在したかを明確に示せなければ、誰にとっても、特に保険会社にとって、リスクを評価するのは難しいのです。私たちのアプローチは、本質的に前の回答での説明責任の仕組みの拡張です。意思決定の範囲とアクションの影響を小さな塊に分解するため、モデルは事業全体を揺るがすような、巨大で不透明な一つの決定を下すことはありません。各ステップはより狭く、より予測可能で、評価が容易です。次に、詳細なログ、可観測性、人間の監視を追加します。最も重要で影響力のある決定については、人間のゲートキーパーを使用するため、エージェントはレビューと承認の後にのみ進行できます。これにより、ワークフローが実際にどのように動作するかについての可視性が大幅に高まります。ワークフローを監査可能かつ再生可能にすることは最後のピースです。何か問題が発生した場合、何が起こったかを再現し、迅速に調査し、修正を検証し、人間の承認がどのくらいの頻度で必要とされ、セーフガードがどこにあるかを実証できます。保険引き受けの観点では、それは謎めいたAIの動作を、標準的な運用リスクに近いものに変えます。Agentic AI Foundationのようなイニシアチブは、エージェントシステムの共有標準を作成することを目指していますが、これらの取り組みの最も有望な側面は何だと思われますか？また、実際のエンタープライズ運用において、それらはまだどこが不足していますか？標準化は一般的に良いことです。AAIFは、エージェントシステムが同じ言語を話すようにするという、地味だが不可欠な作業を行うことができ、それにより統合が容易になり、時間の経過とともにベンダーロックインが減少するはずです。私が慎重なのは、誰の視点が標準を形作るかです。もし作業の大部分がモデル作成者やテック系スケールアップ企業によって主導されるなら、「標準」が、大規模組織がエージェントを安全に日々運用するために実際に必要なものではなく、構築やデモが最も容易なもののために最適化されるリスクがあります。実際のエンタープライズ運用では、ギャップはコネクターに関するものというよりは、むしろコントロールに関する傾向があります。エージェントが何にアクセスし変更できるか、高影響アクションの承認ワークフロー、監査可能なログ、チームが動作を監視し、インシデントを調査し、コンプライアンスを証明できる可観測性です。エンタープライズはまた、乱雑な現実の中で運用するための実用的な標準を必要としています。エッジケースに対するテスト、変化するシステムの処理、レガシーツールや規制されたデータ環境全体でアクションを安全に一時停止、封じ込め、またはロールバックする能力です。ですから、それは有望な方向性ですが、エンタープライズの要件と運用リスクコントロールが後回しにされない限り、その影響は限定的でしょう。Kovantは、主にステルス状態で活動しながら、すでに北欧の大企業から相当な収益を生み出しています。現在、自律AIエージェントの導入が最も進んでいるビジネス機能やワークフローはどのようなものですか？実際の導入現場で見てきたところ、現在最も「準備ができている」ワークフローは、反応的なホワイトカラー作業で構成されるものです。監視、追跡、確認、システム更新、例外処理、複数のツールにわたる事業の維持です。製造業およびより広範なエンタープライズサプライチェーンでは、それは以下の分野に現れます： 調達: 原材料の入手可能性、持続可能な調達、コンプライアンス業務、サプライヤー選定（デュアル/マルチソーシングを含む）、契約管理、サプライヤーリスク管理、入札管理。 生産: 能力計画、生産スケジューリング、保守管理、品質管理、ボトルネック管理、ロス防止。 倉庫管理: 受入・検査、在庫管理、在庫回転（FIFO/FEFO）、棚卸/監査。 輸送 / 物流: 輸送手段・運送業者選定、通関/書類作成、追跡・可視性、排出量監視、貿易コンプライアンス。 販売とサービス: 製品入手可能性、在庫切れ防止、販売/返品管理、消費者行動分析、さらに修理、製品寿命追跡、ワークショップ業務、サービス契約などのアフターセールス分野。 企業が重要な事業全体にAIエージェントを導入する際、すべてを遅くすることなくコントロールを確保するために、自律性と人間の
