インタビュー
Ali Sarrafi, KovantのCEOおよび創設者 – インタビュー・シリーズ
Ali Sarrafi, KovantのCEOおよび創設者は、ストックホルムを拠点とする経験豊富なテクノロジーおよびAIエグゼクティブで、高成長AI企業を構築およびスケールアップする実績があります。2024年末にKovantを創設して以来、エンタープライズAI戦略、ゴー・トゥ・マーケットの実行、運用的スケールアップに関する深い経験を活かし、同社を牽引しています。以前は、AMDによるSilo AIの買収後に、Silo AIの戦略担当副社長を務め、エンタープライズAI戦略の形成および大規模な採用の推進を担当しました。彼のキャリアの初期には、Combient Mixを共同創設し、同社を急成長させ、Silo AIによる買収に成功させ、以来、教育およびAIスタートアップのアドバイザーおよび取締役役職を務め、先進的なAIを実際のビジネスへの影響に変換することに一貫した焦点を当てています。
Kovantは、企業が実験的なAIの使用から完全に運用可能な自律的なビジネスプロセスに移行できるように支援するエンタープライズAI企業です。同社は、調達、サプライチェーン、コンプライアンス、顧客運用などの複雑な運用ドメイン全体でAIエージェントのチームをオーケストレートするように設計されたエージェントベースのプラットフォームを開発しています。セキュアでエンタープライズグレードのデプロイと迅速なタイムトゥバリューに焦点を当てることで、Kovantは、戦略的なAIの野心と日常の実行の間のブリッジとして位置付けられています。同社は、大規模な組織がAIをコアワークフローに直接埋め込むことを支援し、単独のツールまたはパイロットプロジェクトとして扱うのではなく、自律的なビジネスプロセスを実現します。
Spotifyでの主要なAIイニシアチブの立ち上げ、Combient Mixのスケールアップと買収、Silo AIでのエンタープライズAI戦略の形成後にKovantを創設しました。以前の役職で出会った具体的なギャップまたはフラストレーションは何ですか? また、その歴史はKovantのコアデザイン哲学をどのように形作りましたか?
以前の役職を通じて、幾つかの一貫したギャップが現れました。まず、ほとんどの「垂直」AIツールは、実際には単一のソフトウェアスタックに依存しています。同スタック内では、1つのことをわずかに良く行いますが、ワークフローが複数のシステムを跨ぐ必要があるときに、すぐに苦労します。同時に、エンタープライズデータは多数のツールに分散されており、多くの自動化ソリューションはそれにアクセスできません。ポイント統合を何年も重ねると、スパゲッティアーキテクチャが生まれます。複雑さが増し、変更が遅くなり、チームは個々のステップを自動化するのではなく、ワークフロー全体を再考するのではなく、個々のステップを自動化することになります。その結果、ROIは、組織が期待するよりも遅く、また少なくなります。
Kovantは、これに対する回答として設計されています。私たちのコア哲学は、エージェントは従業員のように動作するべきであるということです。つまり、エージェントは複数のツールを跨いで動作し、「雇用」されるのは、単一のスクリプトシーケンスを自動化するのではなく、仕事をするためです。そのため、統合とオーケストレーションが組み込まれており、エンタープライズデータは多くの場合、構造化されていないため、例外や曖昧さを処理するには、より人間的なアプローチが必要です。
私たちは、スピードとスケールを実現するために、ファンデーションエージェントを使用していますが、同時にデータの主権を最優先にします。エンタープライズは、自社のデータを自社の敷地内に留めながら、水平方向にアクセスおよび使用できます。
Kovantは、AIエージェントを使用して全社の運用や部門を実行できる自律的なエンタープライズプラットフォームであると位置付けられています。エンタープライズコンテキストでは、「自律性」をどのように定義しますか? また、これは、今日企業がすでに実験している自動化ツールやエージェントツールとはどのように異なりますか?
エンタープライズコンテキストでは、「自律性」という言葉を使用するとき、私たちは「無監視」という意味ではありません。AIエージェントが、明確な目標とガイドラインの下で、運用全体をエンドツーエンドで実行でき、人間の監視が必要な場合はエスカレーションすることを意味します。
Kovantが異なるのは、私たちのファンデーションエージェントです。単一の固定プロセスを自動化したり、事前に構築されたシーケンスに従ったりするのではなく、Kovantエージェントは、単一の狭いタスクではなく、複雑なワークフローを解決するために、チームまたはスウォームとして動作できます。彼らは、状況が変化したときに適応し、人間の監視が必要な場合は担当者に引き渡します。
たとえば、在庫管理エージェントチームは、次のタスクを、スクラッチから再構築することなく実行できます。サプライヤーとのメールでのやり取り、在庫レベルの監視と在庫切れシグナルの追跡、出荷と購入注文の追跡、複数のシステムでのステータスの更新、在庫計画者が承認するための不一致チケットの作成、倉庫間での在庫の再配分、在庫レポートの統合。
したがって、変化は、「チャットプラスツール」や、スケールアップで壊れる自動化ではなく、企業がエージェントを構築するのではなく、エージェントをスケールアップで実行することに移行することです。
Agentic AIへの大きな関心があるにもかかわらず、多くの組織はまだパイロットモードに留まっています。実際の展開から見ると、企業が実験からスケールアップした生産への移行を妨げている主な理由は何ですか?
私たちが見ているのは、ほとんどの組織が、アイデアが間違っているためではなく、環境がスケールアップに敵対的であるため、パイロットモードに留まっていることです。
最初のブロッカーは、断片化されたエンタープライズテクノロジーランドスケープです。ワークフローは多数のシステムを跨ぎ、データは多数の場所に存在し、すべてを信頼性高く接続することは難しいです。Agentic AIは、既存のツールへの追加としてではなく、ワークフローをエンドツーエンドで再考する方法として展開されることがよくあります。
アーキテクチャとデータの問題も実際に存在します。多くのSaaSベンダーは、依然としてデータをロックインしようとし、これにより、互換性の問題が生じ、エージェントがシステム全体で実行できることが制限されます。多くのチームは、ほとんどのエンタープライズデータが構造化されていないこと（メール、ドキュメント、チケット、PDF、チャットログなど）を軽視しています。如果あなたのアプローチは、クリーンで構造化されたデータを前提としている場合、タイムトゥバリューは長く、痛みがあり、パイロットの範囲を超えて複製することが難しくなります。
簡単に言えば、断片化、ロックイン、構造化されていないデータがドラッグを生み出し、パイロットはこれらの現実が設計されるまで本格的な生産にはなりません。
信頼性は、実際の世界でAIエージェントを展開する最大のブロッカーとして頻繁に引用されます。多くのエージェントシステムがコントロールされた環境を離れたときに失敗する理由は何ですか? また、Kovantのアプローチは、幻覚や予測不可能な動作などの問題をどのように軽減しますか?
いくつかのエージェントシステムは、デモでは素晴らしいですが、実際の世界では失敗します。環境は汚く、予測不可能です。データは不完全または一貫性がなく、エッジケースが頻繁に発生します（返金、論争、特別な承認など）。ワークフローは、時間の経過とともに変化する複数のツール、プラットフォーム、統合を跨ぎ、権限も変わります。AIエージェントに、大きなタスクを処理し、同時に多くのコンテキストが与えられた場合、幻覚や奇妙な動作のリスクが増加します。
Kovantは、設計によってこれを軽減します。私たちのユニークなアーキテクチャは、モデルが作業する問題空間、意思決定空間、コンテキストを狭めます。これにより、幻覚が減ります。また、運用を狭い、焦点を当てたタスクに分解し、個々のエージェントとステップに割り当てます。これにより、動作がより予測可能になり、システムに追跡可能性と制御可能性が追加され、幻覚をよりよく管理できます。私たちは、各エージェントが何をしたか、どこで失敗が始まったかを確認でき、必要に応じて介入またはエスカレーションできます。
幻覚は、魔法のように消え去りませんが、各エージェントが責任を負うものと作用するコンテキストを制限することで、その頻度を減らし、影響を制限できます。Nvidiaの研究チームによる最近の研究でも、エージェントの意思決定を制限することによる類似の利点が見られました。
AIエージェントがビジネスシステムで実際のアクションを開始するにつれて、説明責任は大きな懸念事項となります。詳細なアクションログは、信頼、コンプライアンス、運用リスクに関する議論をどのように変えますか?
詳細なログを使用すると、起こったこと、理由、次に起こることを確認できます。
詳細なログは、エージェントを、機械の中で働いている謎のボットから、調査できるシステムに変えます。
Kovantでは、AIエージェントの展開ごとに、組織が対処できるリスクマップが存在します。人間のゲートキーピングが組み込まれており、エージェントは、人間がレビューおよび決定を承認しない限り、リスクの高いアクションを実行できません。すべてこれらは、システムの記録と同様にログされ、追跡可能です。
私たちは、説明責任を人間の監視と観察可能性と組み合わせて、リスクを最小限に抑えることが重要であると考えています。つまり、エージェントが実際の運用を実行するスピードとスケールの利点を維持しながらも、まだです。
Agentic AIが保険の対象となるかどうかについて、AIエージェントの不透明な意思決定のために議論が行われています。エージェントのワークフローを監査可能および再生可能にすることは、「ブラックボックス」問題に対処し、保険の可能性を開くのにどのように役立ちますか?
「ブラックボックス」問題が、保険の難しさの原因です。如果明確に何が行われたか、どのように行われたか、どのようなコントロールが行われたかを示すことができない場合、リスクを価格設定することは難しいです。
私たちのアプローチは、前述の説明責任のセットアップの延長です。私たちは、意思決定のスコープと影響を小さなチャンクに分割します。モデルは、1つの巨大で不透明な決定を下すのではなく、より狭い、より予測可能で、より簡単に評価できるものにします。
次に、詳細なログ、観察可能性、人間の監視を追加します。最も重要で影響力のある決定については、人間のゲートキーパーを使用して、エージェントが人間のレビューおよび承認後にのみ実行できるようにします。これにより、ワークフローの実際の動作に対する可視性が大幅に高まります。
ワークフローを監査可能および再生可能にすることは、最後のピースです。如果何かが間違った場合、起こったことを再現でき、迅速に調査でき、修正を検証でき、人間の承認がどのくらい必要で、セーフガードがどこにあるかを示すことができます。保険の下で、これは《謎のAIの動作》を、より標準的な運用リスクに近いものに変えます。
Agentic AI Foundationなどの取り組みは、エージェントシステムの共通標準を作成することを目指しています。どのような点が最も約束的であると考えていますか? また、これらの取り組みは、現実のエンタープライズ運用のニーズに対してまだ何が欠けていると思いますか?
標準化は一般的に良いことです。AAIFは、エージェントシステムが同じ言語を話すことを可能にする、地味だが重要な作業を行うことができます。これにより、統合が容易になり、ベンダーロックインが時間の経過とともに減少するはずです。
私は、誰の視点が標準を形作るかについて、慎重です。如果大部分の作業がモデル作成者やテクノロジースタートアップによって主導される場合、標準は、構築またはデモが最も容易なものを最適化することになりますが、実際の運用でエージェントを安全に実行する必要がある大規模な組織のニーズとは一致しません。
現実のエンタープライズ運用の場合、ギャップは、コネクターよりもコントロールに関するものです。エージェントがアクセスおよび変更できるもの、承認ワークフロー、高影響アクション、監査可能なログ、観察可能性、チームが動作を監視し、インシデントを調査し、コンプライアンスを証明できるようにするものです。エンタープライズは、実用的標準も必要です。エッジケースに対するテスト、システムの変更の処理、レガシーツールおよび規制データ環境でアクションを安全に一時停止、包含、またはロールバックできるようにするためです。
したがって、これは約束の方向ですが、影響は、エンタープライズの要件と運用リスクコントロールが事後的なものとして扱われない限り、限定されます。
Kovantは、まだほぼステルスモードで運営されているにもかかわらず、すでに大規模な北欧企業から著しい収益を上げています。現在、自律的なAIエージェントに最も適したビジネス機能またはワークフローは何ですか?
実際の展開から見ると、最も「準備ができている」ワークフローは、反応的な白いカラーウークが中心のものです。監視、追跡、確認、システムの更新、例外の処理、複数のツールを跨ぐ運用の維持。
製造業およびより広範なエンタープライズのサプライチェーンでは、これは次の点で表現されます。
- 調達/プロキュアメント: 原材料の入手可能性、持続可能な調達、コンプライアンス運用、サプライヤーの選択（デュアル/マルチソーシングを含む）、契約管理、サプライヤーリスク管理、入札管理。
- 生産: キャパシティプランニング、生産スケジューリング、メンテナンス管理、品質管理、ボトルネック管理、損失防止。
- 倉庫管理: 受入検査、在庫管理、在庫ローテーション（FIFO/FEFO）、サイクルカウント/監査。
- 輸送/物流: モードおよびキャリアの選択、税関クリアランス/文書化、追跡および可視性、排出量モニタリング、貿易コンプライアンス。
- 販売およびサービス: 製品の入手可能性、在庫切れの防止、販売/返品管理、消費者行動分析、さらにアフターサービス領域（修理、エンドオフレベルトラッキング、ワークショップ運用、サービス契約など）。
企業が重要な運用にAIエージェントを展開する場合、自律性と人間の監視のバランスを取り、コントロールを維持するためにどのように勧めますか?
バランスは、管理された自律性によって決まります。エージェントは、明確なガイドライン内で、低リスク作業を迅速に実行できるようにしながら、リスクのしきい値を超えたときに人間にエスカレーションする必要があります。
多くの失敗は、モデルにスコープとコンテキストが多すぎることから生じます。我々は、運用を小さな、狭いスコープの決定に分割することを勧めます。各ステップには明確な権限と限定された影響範囲があります。これにより、予測不可能な動作が減り、パフォーマンスを監視および改善することが容易になります。
次に、3つのことを組み合わせます。観察可能性、行動ログ、人間のゲートキーピング。エージェントが行うすべてのことが追跡可能で、起こったことを調査し、迅速に改善できるようにします。高影響またはリスクの高いアクションについては、ワークフローに人間の承認ステップを追加します。エージェントは提案および準備できますが、人間が承認するまで実行しません。
これにより、すべてが迅速に進みます。人間の監視ステップではわずかに遅くなるかもしれませんが、これはプロセスの重要な部分です。人間は、毎回のクリックを監視することには縛られていませんが、重要な瞬間には依然としてコントロールを維持しています。結果は、安全な場合のスピードと、必要な場合の監視のバランスです。
今後、企業内での自律的なAIエージェントの役割は、数年間でどのように進化すると思いますか? また、Agentic AIに成功する企業と苦戦する企業を区別するのは何でしょうか?
今後数年間で、自律的なAIエージェントは、興味深い実験から、実際の運用レイヤーとして大規模な組織内で使用されるようになります。運用、顧客サービス、財務、人事で使用されるようになります。信頼性、ガバナンス、監視が改善するにつれて、企業は、孤立したパイロットからエンドツーエンドのワークフロー全体でエージェントチームを実行するように移行します。
最大の変化は、スピード、敏捷性、スケール、効率、コストが、より直接的な競争力のレバーになることです。我々は、「Uber運動」が企業にやって来ると考えています。真にAgentic AIをマスターした企業は、遅れを取った企業よりも根本的に高速で運用できるようになり、市場をより迅速に獲得し、通常の運用の遅れなしに変化に応じることができるようになります。
勝者と敗者を区別するものは、エージェントを展開することだけではありません。エージェントをうまく展開することです。管理された自律性、強力な観察可能性、行動ログ、エージェントの意思決定スコープを狭めるアーキテクチャが、重要な要素となります。エージェントを、コアの運用能力として扱い、適切なコントロール、統合、所有権を持つ企業は、Agentic AIを使用して、より多くのことを行うことができます。そうすることで、チームは管理業務に埋もれるのではなく、成長とイノベーションに集中できるようになります。つまり、急速なスピードと効率が、企業規模で真正な競争優位性となります。
素晴らしいインタビュー、ご興味がある読者は、Kovantを訪問してください。
