Raj Shukla, CTO of SymphonyAI – Interview Series

Raj Shuklaは、SymphonyAIの技術ロードマップと実行を牽引し、Eureka Gen AIプラットフォームを構築するエンジニアリングチームをリードしています。AI/MLエンジニアリングおよび研究の経験はほぼ20年で、Microsoftでのエンジニアリングリーダーシップの役割から、Azure、Dynamics 365、MSR、検索および広告部門を横断するグローバルAI科学およびエンジニアリング組織をリードした14年間のキャリアを含む、企業AI SaaSの豊富な経験を持っています。Rajは、検索、広告、企業AIを含むAI/MLの幅広い経験を持っており、消費者およびビジネスドメインの両方で複数の成功したAI SaaS製品を構築しています。

SymphonyAIは、即時のビジネス価値を提供する業界特化のAIアプリケーションを構築することに重点を置いた企業AI会社です。汎用モデルの代わりに、リテール、消費財、金融サービス、製造、メディア、ITなどの垂直ソリューションを提供し、予測、不正行為防止、運用の最適化、分析などの課題に対処します。同社の製品は、Eureka AIプラットフォームによって推進され、各業界に合わせてカスタマイズされたワークフローに予測、生成、エージェントの機能を組み合わせます。2017年に設立された同社は、スケーラブルでドメインに焦点を当てたソリューションを提供することで、垂直AIの世界的なリーダーに成長しました。

Microsoft、Oracle、現在SymphonyAIでのAIイノベーションの最前線での経験から、企業AIの世界に最初に引き込まれたのは何ですか？また、時間の経過とともにあなたの視点はどのように変化しましたか？

私の企業AIへの旅は、企業が実際のビジネス問題を解決するAIを実装するべきであり、AIのためにAIを作成するべきではないという基本的な信念から始まりました。汎用的な、幅広いAIソリューションは、ほとんどの場合、変革的な価値を提供しないことを私は見てきました。SymphonyAIでは、私たちは、金融犯罪検出から小売り商品のメルカンドライジングまで、産業に特有の課題を理解するAIを開発するという会社の戦略と文化を構築しました。企業の準備は別の次元を追加します。成功した企業AIには、優れたテクノロジー以上のものが必要です。データ管理とアーキテクチャ、クロスファンクショナルなコラボレーションとワークフロー、完全な透明性と監査可能性が必要です。

特に金融やヘルスケアなどの厳しく規制された業界では、汎用の事前トレーニング済みモデルに企業が直面する具体的な欠点は何ですか？

汎用の事前トレーニング済みモデルは、金融、ヘルスケア、食品などの高リスク、高度に規制された環境に適していません。汎用の事前トレーニング済みモデルは、業界特有のニュアンスに対処し、さまざまな地域で異なる厳格な規制およびコンプライアンス要件を満たすために、基本的なドメインの専門知識を必要とするなどの重要な障壁に直面します。最も重要なのは、企業が必要とする精度と追跡可能性を提供できないことです。ここでは、反_money_洗浄規制に準拠したり、食品を迅速に回収するための迅速なアイテムの削除を可能にしたりするために、SymphonyAIの垂直AIテクノロジーは、私たちが運営する業界に特に設計されており、業界のオントロジーでトレーニングされており、ビジネスへの直接的な影響を生み出す決定または自動化された決定を可能にします。

事前トレーニング済みモデルと深いドメインロジックを組み合わせることは、企業のROIを解放するための重要な要素と見なされています。企業のKPIとの整合性、規制のガードレールなどの重要な要素は、このアプローチを効果的にするものですか？

事前トレーニング済みモデルと深いドメインロジックを組み合わせることで、ビジネス上の文脈と運用上の要件を理解するAIシステムを作成することで、価値を解放します。このアプローチは、モデルが業界特有のオントロジーで強化され、企業のKPIと一致して測定可能なビジネス目標に直接サービスを提供する出力を確実にし、規制のガードレールで提供される必要なコンプライアンスフレームワークと監査証跡を備えた場合に成功します。これらの要素が協力して機能すると、汎用的なAIは、企業が要求する信頼性とコンプライアンスを維持しながら、測定可能な成果を駆動するビジネスクリティカルなソリューションに変わります。

IBMは最近Seek AIを買収し、ニューヨーク市にWatsonx Labsを開設し、AI景観における戦略的シフトの可能性を示しています。企業AIにおけるM&Aと投資のトレンドについて何を示していますか？

IBMのSeek AIの買収とWatsonx Labsの立ち上げは、期待していた根本的なシフトの検証です。企業AIの景観は変化し、次のM&Aの波は、事前トレーニング済みの垂直AIモデルを備えた企業、業界の専門知識、ガバナンス、規制のガードレール、および成果指向のKPIを優先することを示しています。戦略的な買い手であるIBMは、企業データで動作するAIエージェントが、業界のワークフローを理解するときにすぐにROIを提供することを認識しています。市場は、汎用的な知能が企業の変革を推進するために垂直の専門化が必要であることを認識することによって統合されています。

基礎モデルがドメイン特化エージェントに進化するポイントはどこですか？この移行を示すアーキテクチャの重要なマイルストーンは何ですか？

基礎モデルは自然にドメインエージェントに成長しません。エンジニアリングチームによってそれを1つに設計する必要があります。一般的なモデルが「賢く」なり、銀行の調査員になるための直接的なパスはありません。移行は、エンジニアリングチームがモデルの生の知能に頼るのを止め、コンテキスト層（例：ノールグラフ）とオーケストレーション層を構築して、ビジネスプロセスに従うようにモデルを強制するときに発生します。

垂直的で回復力のあるエージェントワークフローを構築する際の主な課題は何ですか？また、SymphonyAIはこれらの課題に対処する方法は何ですか？

垂直的で回復力のあるエージェントワークフローを構築する主な課題は、複雑なマルチステッププロセス全体で信頼性を維持することです。SymphonyAIは、エージェントにドメインの専門知識を直接組み込み、エラー処理で障害からの復旧を実装し、エンタープライズプロセス全体で永続的なコンテキスト管理を維持することで、マルチレイヤーのアーキテクチャを通じてこれらの課題に対処します。これにより、私たちのエージェントは、精度、コンプライアンス、運用上の完全性を維持する必要がある、高度に規制された環境で信頼性を持って動作できます。

堅牢なデータ基盤、ノールグラフ、メタデータ層は、垂直AIエージェントにとってなぜ重要な機能ですか？また、多くの企業がこれらの機能を実装するのに苦労する理由は何ですか？

堅牢なデータ基盤とノールグラフは、垂直AIエージェントが有意義な情報源を持ち、コンテキスト化された推奨事項を提供し、市場、顧客、プロセスの変更全体で最新の状態を維持するために不可欠です。多くの企業は、これらの機能を実装するのに苦労しています。なぜなら、これらには、データアーキテクチャへの重要な初期投資、専門的なオントロジー専門知識、および多くの組織にとって技術的にも組織的に困難な既存のデータ慣行の根本的な変更が必要だからです。そのような状況では、深い業界の知識と経験を持つAIテクノロジーパートナーが貴重です。彼らは、業界全体の多数の実際の顧客に対するドメインデータとソースの大量の事前トレーニングでAIを事前トレーニングできます。

実際のシナリオでは、金融犯罪検出や小売りの予測など、SymphonyAIはどのように予測、生成、エージェントAIを統合した「スキル」にまとめますか？

SymphonyAIは、予測、生成、エージェントAIを統合した「スキル」にまとめ、特定のビジネス問題を解決する統合ワークフローを作成します。金融犯罪検出の場合、私たちの予測モデルは疑わしい取引パターンを特定し、生成AIは詳細な調査報告書とリスク評価を作成します。同時に、エージェントAIは、ケースの自動エスカレーション、コンプライアンスチームとの調整、以及実時間の調査戦略の調整を含む、全ワークフローをオーケストレートします。

重要な点は、これらが別々のAIツールではなく、ビジネス文脈を理解し、ワークフローの状態を維持し、予測分析、コンテンツ生成、自律的なアクションの間で無縫に遷移できる、業界特化のエージェント内の統合機能であるということです。

あなたは、多くの企業AIエージェントが堅牢性なしで躓く可能性があることを警告しています。堅牢で、監査に耐えられる企業AIエージェントの重要な特性は何ですか？

企業が厳しく監視される環境で設計された、堅牢に構築された企業AIエージェントには、重要な特性が必要です。多くの企業は、効率、生産性、革新を高めるために急速にAIエージェントに投資し、展開していますが、成功に必要な基盤を過小評価しています。成功するエージェントに必要な重要な側面は次のとおりです：

• 企業AIエージェントは、企業データで動作し、データはしばしばシロ化され、適切なプログラムアクセス、許可、管理アクセスが制限されていることが多いです。エージェントは、従業員と同じ認証および認可の手段を備える必要があります。
• エージェントは、企業システムの障害、ネットワークの停止、不安定なエンドポイントから回復する必要があります。オーケストレーションレイヤーは、長時間実行される、耐久性のある、障害耐性のあるワークフローを可能にする必要がありますが、人気のあるLLMオーケストレーターではこれが提供されません。
• LLMは非決定論的であり、タスクに失敗します。障害からの回復、再試行、および最適なパスの発見は、エージェントシステムの重要な機能である必要があります。

垂直AIプラットフォームを内部で構築することと、ニッチベンダーと提携することを検討しているCTOにとって、あなたはどのようなアドバイスを提供しますか？

リテール/CPG、産業、金融サービスを含む複数の業界で企業AIソリューションを構築するには、同時に最先端のAIテクノロジーと深いドメインの専門知識をマスターする必要があります。私たちのEureka AIプラットフォームは、各業界に合わせてカスタマイズされたデータソース、ノールグラフ、予測モデル、およびエージェントが必要であることを示していますが、これは、多くの内部チームが欠如している、研究投資と顧客のイテレーションの数年間の結果です。企業AIソリューションに投資するビジネスとCTOにとって、私は、最初の日から実際の結果を提供するソリューションを選択することを推奨します。垂直AIソリューションは、そのような結果を提供し、ユーザーがビジネス価値を生み出すために使用できるデータを提供します。

企業AIアーキテクチャを見てみると、共有された基礎モデルを使用した連邦化された垂直エージェントは、標準になるでしょうか？

私たちは、単に「連邦化された」エージェントだけを見るのではなく、管理されたエージェントアーキテクチャを見ることになるでしょう。共有された基礎モデルは推論エンジンを提供しますが、実質的にコモディティです。成功した企業の「標準」は、厳格にオーケストレートされた、垂直に特化したエージェントを展開することです。これらは、単に「会話」を行うのではなく、共有されたコンテキストレイヤーを通じて協力します。連邦化されたエージェントだけを構築すると、ノイズの多い、妄想を起こすシステム、つまり企業AIの「漏れのあるパイプ」が得られます。これを生産環境でスケーリングするには、単純な連邦化を超える3つの特定のレイヤーが必要です：

• コンテキスト（ドメインノールグラフ）: エージェントは、確率のみを交換するのではなく、単一の真実の源を共有する必要があります。
• オーケストレーション: 特殊化されたエージェントを使用するタイミングと、人間をループに保持するタイミングを決定する「マスターアーキテクト」が必要です。
• ガバナンス: 出力は、システムを離れる前に法的にも運用上にも安全である必要があります。

素晴らしいインタビュー、詳しく知りたい読者はSymphonyAIを訪問してください。