KovantのCEO兼創設者Ali Sarrafi – インタビュー・シリーズ

Ali Sarrafi, KovantのCEO兼創設者は、ストックホルムを拠点とする経験豊富なテクノロジーおよびAIエグゼクティブです。Kovantを2024年後半に創設して以来、エンタープライズAI戦略、市場参入の実行、運用的スケーリングに関する深い経験を活かしてきました。以前は、AMDによるSilo AIの買収後に、エンタープライズAI戦略の形成と大規模な採用を担当するSilo AIの戦略担当副社長を務めました。彼のキャリアの初期には、Combient Mixの共同創設者として、同社を急成長させ、Silo AIによる買収を成功させ、以来、教育とAIスタートアップのアドバイザーおよび取締役役員を務めており、先進的なAIを実際のビジネスへの影響に変えることに一貫した焦点を当てています。

Kovantは、エンタープライズAI企業であり、組織が実験的なAIの使用から完全に運用可能な自律的なビジネスプロセスに移行できるように支援します。同社は、調達、サプライチェーン、コンプライアンス、顧客運用などの複雑な運用ドメイン全体でAIエージェントのチームをオーケストレートするように設計されたエージェントベースのプラットフォームを開発しています。セキュアでエンタープライズグレードのデプロイと迅速な時間対価値を重視することで、Kovantは、戦略的なAIの抱負と日常の実行の間の橋渡しとして位置付けられており、大規模な組織がAIをコアワークフローに直接埋め込むのではなく、スタンドアロン・ツールまたはパイロットプロジェクトとして扱うのではなく、助けることを支援しています。

Spotifyでの主要なAIイニシアチブのリーダー、Combient Mixのスケーリングとエクシット、Silo AIでのエンタープライズAI戦略の形成後にKovantを創設しました。以前の役職で出会った具体的なギャップまたはフラストレーションは、自律的なエンタープライズ・プラットフォームを構築する時期が来たと確信させたのですか？また、その歴史はKovantのコア設計哲学をどのように形成しましたか。

以前の役職を通じて、数多くの一貫したギャップが現れました。まず、ほとんどの「垂直」AIツールは、基本的に単一のソフトウェア・スタックに拘束されています。彼らはその境界内で一つのことをわずかに良く行いますが、ワークフローが複数のシステムを跨ぐ必要がある瞬間、苦労します。同時に、エンタープライズ・データは多くのツールに分散しており、多くの自動化ソリューションはそれに到達することができません。数多くのポイント統合を重ねると、クラシックなスパゲッティ・アーキテクチャが生まれます。複雑さが増し、変更が遅くなり、チームは個々のステップを自動化するのではなく、ワークフローを端から端まで再構想することになります。その結果、ROIは期待されるよりも遅く、また少なくなります。

Kovantは、その現実に対する反応として設計されています。私たちのコア哲学は、エージェントは従業員のように振る舞うべきであるということです。彼らは複数のツールを跨いで作業し、「雇用」されるのは、単一のスクリプトされたシーケンスを自動化するのではなく、仕事をするためです。そのため、統合とオーケストレーションが組み込まれており、エンタープライズ・データはしばしば汚く構造化されていないため、例外や曖昧さを処理するために、より人間のようなアプローチが必要です。

私たちは、スピードとスケールを実現するために、ファンデーション・エージェントを使用しています。同時に、データの主権を最優先にします。エンタープライズは、データを自社の敷地内でアクセスおよび使用できるようにすることができます。

Kovantは、AIエージェントで全体の運用と部門を実行できる自律的なエンタープライズ・プラットフォームであると位置付けられています。エンタープライズの文脈では、「自律的」とはどう定義しますか。また、これは、企業が現在実験している自動化とエージェント・ツールとはどのように異なりますか。

エンタープライズの文脈では、私たちが「自律的」というとき、無監視のことを意味しません。AIエージェントが、明確な目標とガイドラインの下で、運用全体を端から端まで実行できることを意味します。また、必要な場合には、人間にエスカレーションします。

Kovantが異なるのは、私たちのファンデーション・エージェントです。単一の固定プロセスまたは事前構築されたシーケンスを自動化するのではなく、Kovantエージェントは、指示と運用の概要であるブループリントを使用して、運用に協力して作業できます。彼らは狭いタスクに設計されていません。彼らは複雑なワークフローを解決するために協力し、状況が変化するにつれて適応し、人間の監視が必要な場合には担当者に引き渡します。

たとえば、在庫管理エージェント・チームは、次のすべてのタスクを、スクラッチから再構築することなく実行できます。サプライヤーとの電子メールによる通信、在庫レベルと在庫切れシグナルの監視、出荷と購入注文の追跡、システム全体でのステータスの更新、在庫プランナーが承認する不一致チケットの作成、倉庫間での在庫の再配分、在庫レポートの統合です。

したがって、変化は、「チャット・プラス・ツール」や、スケールアップで壊れる自動化ではなく、企業がエージェントを構築するのではなく、エージェントをスケールアップで実行することへの移行です。

エージェントAIへの大きな関心があるにもかかわらず、多くの組織はまだパイロットモードに留まっています。実際のデプロイメントから見ると、企業が実験からスケールアップした生産に移行するのに苦労する主な理由は何ですか。

私たちが見ているのは、ほとんどの組織がパイロットモードに留まるのは、アイデアが間違っているからではありません。環境がスケールアップに敵対しているからです。

最初のブロッカーは、断片化されたエンタープライズ・テクノロジー・ランドスケープです。ワークフローは複数のシステムを跨ぎ、データは複数の場所に存在し、すべてを信頼性高く統合することは困難です。また、エージェントAIは、ワークフローを端から端まで再構想するのではなく、既存のツールの追加として頻繁にデプロイされます。

アーキテクチャとデータの実際の問題もあります。多くのSaaSベンダーはまだデータをロックインしようとしており、エージェントがシステムを跨いで実行できることを制限し、不一致を生み出します。また、多くのチームは、ほとんどのエンタープライズ・データが構造化されていないこと（電子メール、ドキュメント、チケット、PDF、チャットログ）を過小評価しています。如果あなたのアプローチはクリーンで構造化されたデータを前提としている場合、価値の実現までの時間は長く、痛みがあり、パイロットを超えて複製することが困難になります。

要約すると、断片化、ロックイン、構造化されていないデータが抵抗を生み出し、パイロットは現実を設計するまで生産にはなりません。

信頼性は、AIエージェントを実世界でデプロイするための最大のブロッカーとして頻繁に引用されます。多くのエージェント・システムがコントロールされた環境を離れたときに失敗するのはなぜですか。Kovantのアプローチは、幻覚や予測不可能な動作などの問題をどのように軽減しますか。

一部のエージェント・システムはデモでは見事ですが、実世界では失敗します。環境は汚く予測不可能です。データは不完全または一貫性がなく、エッジ・ケースが頻繁に発生します（返品、紛争、特別な承認）。ワークフローは、時間の経過とともに変更される複数のツール、プラットフォーム、統合を跨ぎ、権限は変わります。AIエージェントに大きなタスクを割り当て、同時に多くのコンテキストを与えると、幻覚や奇妙な動作のリスクが増加します。

Kovantはデザインによってこれを軽減します。私たちのユニークなアーキテクチャは、モデルが作業する問題空間、意思決定空間、コンテキストを狭めます。幻覚を減らし、動作をより予測可能にします。また、運用を狭い、焦点を当てたタスクに分解し、各ステップに明確な権限と限定された影響範囲を与えます。那により、動作はより予測可能になり、パフォーマンスの改善が容易になります。

さらに、観察可能性、行動ログ、人間のゲートキーピングを組み合わせます。エージェントが行うすべてのことが追跡可能であるため、何が起こったかを調査し、迅速に調査できます。リスクの高い行動の場合、ワークフローに人間の承認ステップを追加します。エージェントは提案および準備できますが、人間が承認するまで実行しません。

その結果、必要な場合には、スピードと人間の監視のバランスがとれます。人間は毎クリックを監視する必要はありませんが、重要な瞬間にまだコントロールを持ちます。その結果、安全な場合にはスピードがもたらされ、必要な場合には監視がもたらされます。

AIエージェントがビジネス・システムで実際の行動を開始するにつれて、説明責任は大きな懸念事項となります。詳細な行動ログは、信頼、コンプライアンス、運用リスクに関する会話をどのように変えますか。

詳細な行動ログにより、何が起こったか、、なぜ起こったか、次に何が起こるかを確認できます。

詳細なログは、エージェントを、機械の中で働いている謎のボットから、調査できるシステムへと変えます。

Kovantでは、AIエージェントのデプロイごとに、組織が対応できるリスクマップが提供されます。リスクの高い行動に対する人間のゲートキーピングが組み込まれており、エージェントは、人間がレビューおよび承認するまで、リスクの高いタスクを実行できません。すべてのログは、システムの記録と同様に、追跡可能であり、同じようにログされます。

私たちは、行動ログを人間の監視と観察可能性と組み合わせることが重要であると考えています。那により、リスクを最小限に抑えます。エージェントが実際の運用を実行するスピードとスケールの利点をまだ得ることができます。

AIエージェントが不透明な意思決定のために保険されることができないという議論が増えています。エージェントのワークフローを監査可能で再生可能にすることは、「ブラックボックス」問題に対処し、保険可能性の扉を開けるのにどのように役立ちますか。

「ブラックボックス」問題が、保険可能性を難しくしています。如果明確に何が行われたか、、なぜ行われたか、どのようなコントロールが存在したかを示すことができない場合、リスクを価格設定することは誰にとっても難しいことです。

私たちのアプローチは、前述の説明責任のセットアップの延長です。私たちは、意思決定の範囲と影響を小さなチャンクに分割します。モデルは、1つの大きな、不透明な決定を下すのではなく、各ステップは狭く、予測可能で、評価しやすいものになります。

さらに、詳細なログ、観察可能性、人間の監視を追加します。最も重要で影響力のある決定の場合、人間のゲートキーパーを使用して、エージェントは承認されるまで進めることができません。那により、ワークフローが実際にどのように動作するかについての可視性が大幅に高まります。

ワークフローを監査可能で再生可能にすることは、最終的なピースです。如果何かが間違っている場合、何が起こったかを再現し、迅速に調査し、修正を検証し、人間の承認が必要な頻度とセーフガードがどのように配置されているかを示すことができます。保険の観点から見ると、《不明なAIの動作》は、より標準的な運用リスクに近くなります。

エージェント・システムの共通標準を作成するためのAgentic AI Foundationなどのイニシアチブがあります。どのような点が最も約束的であると思われますか。また、それらは現実のエンタープライズ運用のためにまだどこで不足していますか。

標準化は一般的に良いことです。AAIFは、エージェント・システムが同じ言語を話すようにするための地味で重要な作業を行うことができます。これにより、統合が容易になり、ベンダーのロックインが時間の経過とともに減少するでしょう。

私が慎重なのは、誰の視点が標準を形作るかです。如果ほとんどの作業がモデル・クリエイターとテクノロジー・スケールアップによって行われる場合、標準は、エンタープライズが実際に必要とするのではなく、構築やデモが容易なものを最適化するリスクがあります。

現実のエンタープライズ運用の場合、ギャップは、コネクターよりもコントロールについてのものです。エージェントがアクセスして変更できるものは何ですか。リスクの高い行動の承認ワークフローは何ですか。監査可能なログと観察可能性は何ですか。チームは動作を監視し、インシデントを調査し、コンプライアンスを証明することができます。エンタープライズは、エッジ・ケースのテスト、システムの変更の処理、レガシ・ツールと規制されたデータ環境全体で行動を安全に一時停止、包含、またはロールバックする方法について、実用的で現実的な標準が必要です。

それが約束的な方向性ですが、エンタープライズの要件と運用リスクのコントロールが後に考慮されない限り、影響は限定されます。

Kovantは、まだほぼステルスモードで運営しながら、北欧の大手企業からすでに大きな収益を上げています。現在、自律的なAIエージェントが最も準備ができているビジネス機能またはワークフローは何ですか。

実際のデプロイメントから見ると、最も「準備ができている」ワークフローは、反応的な白いカラーウォークです。監視、追跡、チェック、システムの更新、例外の処理、複数のツールを跨いで運用を維持することです。

製造とより広範なエンタープライズ・サプライ・チェーンでは、それは次の点で表現されます。

• 調達/プロキュアメント: 原材料の入手可能性、持続可能な調達、コンプライアンス・オペレーション、サプライヤーの選択（デュアル/マルチ・ソーシングを含む）、契約管理、サプライヤーのリスク管理、入札管理。
• 生産: 容量計画、生産スケジューリング、メンテナンス管理、品質管理、ボトルネック管理、損失防止。
• 倉庫管理: 受け入れと検査、在庫管理、在庫のローテーション（FIFO/FEFO）、サイクル・カウント/監査。
• 輸送/物流: モードとキャリアの選択、税関のクリアランス/文書化、追跡と可視性、排出量の監視、貿易のコンプライアンス。
• 販売とサービス: 製品の入手可能性、在庫切れの防止、販売/返品管理、消費者行動分析、さらにアフターサービス領域（修理、エンド・オブ・ライフ・トラッキング、ワークショップ・オペレーション、サービス・コントラクトなど）。

企業が運用全体でAIエージェントをデプロイする場合、コントロールを確保するために、自律性と人間の監視をどのようにバランスさせることをお勧めしますか。

バランスは、ガバナンスされた自律性によって決まります。リスクの低い作業については、明確なガイドラインの下で、迅速にエージェントを動かす必要があります。また、リスクのしきい値を超えた場合には、人間にエスカレーションする必要があります。

多くの失敗は、モデルに多すぎるスコープとコンテキストを一度に与えることから生じます。私は、運用を狭い、焦点を当てた決定に分解することをお勧めします。各ステップには明確な権限と限定された影響範囲があります。那により、予測不可能な動作が減り、パフォーマンスの改善が容易になります。

さらに、観察可能性、行動ログ、人間のゲートキーピングを組み合わせます。エージェントが行うすべてのことが追跡可能であるため、何が起こったかを調査し、迅速に調査できます。リスクの高い行動の場合、ワークフローに人間の承認ステップを追加します。エージェントは提案および準備できますが、人間が承認するまで実行しません。

その結果、必要な場合には、スピードと人間の監視のバランスがとれます。人間は毎クリックを監視する必要はありませんが、重要な瞬間にまだコントロールを持ちます。その結果、安全な場合にはスピードがもたらされ、必要な場合には監視がもたらされます。

将来的に、企業内での自律的なAIエージェントの役割はどのように進化すると思いますか。また、エージェントAIに成功する企業と苦労する企業を区別するのは何でしょうか。

将来的に、自律的なAIエージェントは、興味深い実験から、実際の運用レイヤーとして大規模な企業内で使用されるようになります。彼らは運用、顧客サービス、財務、人事に使用されます。信頼性、ガバナンス、監視が改善するにつれて、企業は孤立したパイロットからエージェント・チームをエンドツーエンドのワークフローで実行するように移行します。

最大の変化は、スピード、敏捷性、スケール、効率、コストが、より直接的な競争上のレバーになることです。私は「Uber運動」が企業にやって来ると考えています。エージェントAIを真正にマスターした企業は、遅れを取る企業よりも根本的に高速で運用できるようになり、市場をより迅速に獲得し、変化に応じることができます。

勝者を区別するのは、エージェントをデプロイすることだけではありません。エージェントをうまくデプロイすることです。ガバナンスされた自律性、強力な観察可能性と行動ログ、意思決定の範囲を狭めるアーキテクチャが、そこに重要な鍵となります。エージェントAIをコアの運用能力として扱い、適切なコントロール、統合、所有権を持つ企業は、成長とイノベーションに焦点を当てるために、エージェントAIを使用してより多くのことを行うでしょう。そうすることで、チームは管理ではなく、成長とイノベーションに集中できるようになります。簡単に言えば、急速なスピードと効率が、企業規模で真正な競争上の優位性となります。

素晴らしいインタビュー、詳しく知りたい読者は、Kovantを訪れてください。