Jayant Swamy、Genpact のチーフエンタープライズアーキテクト – インタビューシリーズ

Jayant Swamy、Genpact のチーフエンタープライズアーキテクトで、エンタープライズアーキテクチャ、人工知能、データエンジニアリング、クラウド技術、そして大規模デジタルトランスフォーメーションにまたがる20年以上の経験を持つテクノロジー・データリーダーです。2024 年に Genpact に入社する前は、Xtrac8.Tech の CTO およびチーフアーキテクト、そして生成 AI や大規模言語モデルを含む技術に注力する AI スタートアップの CTO 兼共同創業者を務めました。Swamy はそれ以前に Accenture で10年以上勤務し、CTO、グローバルリード兼応用インテリジェンス研究所のグローバルマネージングディレクター、Data on Cloud ビジネスのマネージングディレクター兼グローバルビジネスリード、そしてチーフデータアーキテクト兼データエンジニアリング・データイノベーションのグローバルリードなどのリーダーシップ役割を歴任しました。キャリアの初期には、Oracle (ORCL ) のシニアプリンシパルとして数年勤務した後、Fannie Mae で7年以上にわたり、サービスおよびクレジットロス管理に関する技術とビジネス情報イニシアチブを監督しました。

Genpact は、人工知能、データ、プロセスインテリジェンス、ドメイン専門知識を活用して企業が複雑な業務を変革する支援に特化した、グローバルなテクノロジー・ビジネスサービス企業です。同社は 1997 年に GE Capital 内のイニシアチブとして始まり、2005 年に独立、2007 年にニューヨーク証券取引所で上場しました。現在、Genpact は銀行、保険、金融、サプライチェーン、消費財、ヘルスケア、テクノロジーなど多様な業界の組織と協業し、生成 AI、エージェントシステム、オートメーション、AI 活用型エンタープライズオペレーションへの注力を強めています。

あなたのキャリアは Oracle、Fannie Mae、Accenture でのエンタープライズアーキテクチャとデータリーダーシップの役割からスタートアップ環境、そして現在の Genpact のチーフエンタープライズアーキテクトへと移り変わってきました。この経験は、AI の自律性が真に企業価値を創出する領域と、人間の判断が不可欠な領域について、どのように考え方を形作っていますか？ 

私のキャリアを通じて、スケール、ガバナンス、統合、リスクはイノベーションと同等に重要であることを学びました。大企業での経験は、組織内で機能しなければ優れた技術でも失敗することを示しています。一方、スタートアップは迅速に動き、実験し、アーキテクチャをシンプルかつ適応可能に保つ価値を強調します。AI の自律性は、スピード感あるイノベーションと堅固な基盤の両方の考え方を組み合わせたときに最も効果的です。その結果、AI は組織内の業務フローを真に変革できるようになります。私たちの最近の調査の結果も、この点を明確に裏付けています。

モデル自体は方程式の一部に過ぎません。周囲のアーキテクチャ――データ、システム、ワークフロー、コントロール、統合――が、AI がスケールで価値を創出できるかどうかを決定します。これが「プロセスインテリジェンスなしに人工知能は存在しない」という意味です。また、Genpact Labs における応用 AI の取り組みの前提でもあります。私たちは新興の AI 機能を取り込み、プロダクションレベルのクライアント向けソリューションに変換します。各機能は測定可能なビジネス成果に結び付けられ、運用に必要なワークフロー、データ、コントロールに組み込まれています。

AI が行動できる余地は、目的が明確でデータが信頼でき、境界が十分に理解されている場合に限られます。人間の判断は、ハイステークスで曖昧、主観的、規制対象、または説明責任や共感が求められる決定において不可欠です。自律性は人間をシステムから排除することではなく、AI が独立して動作できる領域、人間が可視性を必要とする領域、そして人間の判断が介入すべき領域を全員が把握できるようにシステムを設計することです。

多くの企業は顧客向け AI を主に速度、コンテインメント率、コスト削減で評価しますが、これらの指標は技術が実際に顧客体験を向上させているかどうかについて誤解を招く可能性があるのはなぜでしょうか？

問題は、これらが主に効率性の指標であることです。システムのパフォーマンスは示しますが、顧客が実際にどのように感じたかは必ずしも分かりません。たとえばコンテインメント率は、内部的には高い成功率に見えるかもしれませんが、顧客が諦めたり、同じことを繰り返したり、不完全な回答を受け取ったり、必要なときに人にたどり着けなかったりすると、結果が悪化していることを隠す可能性があります。コンテインメントは AI が顧客をシステム内に留めたことを示すだけで、顧客が求めるものを得たかどうかは示しません。コスト削減も同様で、信頼や満足度、解決の質を犠牲にしている場合があります。

AI システムは与えられたシグナルに合わせて最適化されるため、企業は最初からシステムに測定用の手がかりを組み込む必要があります――速度やコンテインメントといったフロントエンド指標を、問題解決や結果が他の領域で問題を生んでいないかといった下流シグナルと結びつけます。最終的に、顧客向け AI は、エンドユーザーの根本的な課題を正確かつ公平に、適切な人間サポートとともに解決できているかどうかで評価すべきです。

AI エージェントが不確実性、フラストレーション、緊急性、または既定のワークフロー外の状況を認識するために使用すべきシグナルは何でしょうか？ 

単一の魔法のようなシグナルは存在しません――重要なのは、システムに十分なコンテキストと可観測性を提供し、信頼度や権限、情報が不足したときにそれを認識させることです。これは、矛盾する情報、繰り返し失敗する試行、エージェントがループする状態として現れます。また、顧客の言葉遣いの変化――フラストレーションや緊急性を示す明確なシグナル――や、タスク自体がエージェントにない情報・アクセス・権限を必要とする場合も該当します。

システムは自らの境界を把握している必要があります。問題が設計されたワークフローの範囲外である、アクセスできないデータが必要である、または定義されたリスク閾値を超える場合は、別の経路を取るべきです。エージェントがすべてのシナリオを処理すべきというのが目的ではなく、停止すべき時、エスカレーションすべき時、助けを求めるべき時を認識できることが目的です。

企業は、単に複雑なやり取りと、実際に人間の判断や共感が必要なやり取りをどのように区別できますか？

境界線はタスクの難易度ではなく、判断や結果、そして人間的文脈がどれだけ伴うかです。機械が処理し人間が検証するエージェント型オペレーションを構築するには、人間の価値が決して代替できない領域を理解する必要があります。

目的が明確でデータが信頼でき、プロセスが定義され、結果が測定可能であれば、AI は非常に複雑なタスクも処理できます。単なる複雑さだけでは、人間が必要になるわけではなく、システムが許容された範囲を理解していれば問題ありません。顧客の意図が不明確である、状況が裁量を要する、複数の妥当な結果が存在する、または決定が重大な財務・法務・医療・評判上の影響を伴う場合には、人間の介入が必要です。さらに、安心感や説明、交渉、共感が求められるやり取りもあり、単なる回答以上の対応が必要です。そのような場面での人間の関与は技術的な正確さと同等に重要です。アーキテクチャはこの区別を反映すべきで、介入ポイントは問題が起きた後に決めるのではなく、あらかじめワークフローに組み込む必要があります。

顧客が人間エージェントに引き継がれた際に、同じことを繰り返したりやり取りを最初からやり直したりしなくて済む、効果的なエスカレーションプロセスはどのような形態が望ましいでしょうか？

適切なエスカレーションは、単に顧客を転送するだけでなく、コンテキストも転送し、次の担当者がすぐに解決に向かえるようにすることです。人間が引き継ぐ際には、会話履歴、顧客の身元・プロファイル、そして AI が既に試みた内容がすでに把握されており、顧客に再度最初から説明させる必要がない状態であるべきです。

これは主にアーキテクチャの問題です。AI がフロントエンドのチャット体験だけに存在し、CRM、ERP、ナレッジソース、ワークフロー、オーケストレーション層と切り離されている場合、シームレスな引き継ぎは不可能です。

エスカレーションの閾値は、財務リスク、顧客の脆弱性、規制要件、または誤った判断の潜在的な影響といった要因に応じて変えるべきでしょうか？

エスカレーションのルールはリスクレベルに依存すべきです。誤りの結果が大きいほど、早期に人間が関与すべきです。

パスワードリセットは完全に自動化できても、争われている金融取引はより厳格な管理が必要です。クレームや回収業務では、定型的なステータス更新は完全自律としつつ、金額の閾値を超えるケースや困窮フラグが出た場合は必ず人間がチェックする必要があります。規制が厳しい、または影響が大きい決定ほど、監視は強化すべきです。脆弱な顧客には早期の人間介入が求められ、取り返しのつかない結果を伴う判断は自律性の閾値を低く設定すべきです。

これらの閾値は個々のエージェントがその場で解釈して決めるべきではありません。エージェントが許可されていること、追加の検証が必要なこと、エスカレーションが必須なことを明確に規定し、アーキテクチャとオーケストレーション層に組み込む必要があります。

機会は、リスクに応じて自律性をスケールさせることです――低リスクの作業は全速力で、高リスクの領域では厳格に管理します。Genpact では、エージェント型ワークフローの設計にこの階層化を直接組み込み、定型ケースは自律的に処理し、定義されたリスクや金額の閾値を超えるものは自動的に人間にルーティングし、エージェントがエスカレーションを判断する必要がありません。すべてのやり取りに同一の自律性を与える企業は、利便性を高コストのエラーに変えてしまいます。

タスク完了だけでなく、組織は自律的なカスタマーサービスシステムが顧客に対して肯定的な成果を生んでいるかどうかを評価するために、どの指標を使用すべきでしょうか？

タスク完了は有用ですが、十分とは言えません。問うべきは「エージェントはタスクを完了したか？」ではなく「顧客はより良い状態になったか？」です。これは、結果を約束することと、その結果に対して責任を持つことの違いです。

したがって、処理時間だけでなく、応答精度、一次解決率、再コンタクト率、エスカレーションの質、顧客満足度、結果の公平性と一貫性といった指標を見る必要があります。また、個々のやり取りだけでなく、全体を測定すべきです。エージェントは顧客ジャーニーのある段階で成功したように見えても、下流で問題を引き起こすことがあります。たとえば、迅速にクローズしたケースでも数週間後に別の問い合わせが発生し、顧客の感情に影響し、最終的に人間の介入が必要になることがあります。そのため、30日後にまだ解決しているかどうかを追跡する価値があります。

また、システムが単にやり取りを終了させて成功とみなすのではなく、顧客の根本的なニーズを本当に解決しているかを把握することも重要です。そのためには、AI インターフェースの指標だけでなく、ワークフロー全体にわたるエンドツーエンドの可観測性が必要です。活動量ではなく顧客とビジネスの成果を測定することが、AI の実際の ROI を明らかにします。

企業は、AI エージェントが通話量削減や処理時間短縮といった運用目標の最適化に走り、結果として公平性、信頼、顧客の根本的なニーズを犠牲にしないようにするにはどうすればよいでしょうか？

AI システムは割り当てられた目標を達成するのが非常に得意です。これが利点であり落とし穴でもあります――速度だけを目標にエージェント型システムに指示すれば、他のすべてを犠牲にしてでもそれを達成しようとします。

企業は、効率性が重要であると同時に、顧客の成果、リスク、公平性、正確性、信頼といった目標も併せ持つバランスの取れた目的を AI に設定する必要があります。これは、許容できる行動に明確なガードレールを設け、バイアスや意図しない結果をテストし、人間によるオーバーライド機構を維持し、意思決定を継続的にモニタリングし、出力を追跡可能かつ監査可能にすることで実現します。ガバナンスはシステム稼働後に付け足すものではなく、最初からアーキテクチャに組み込むべきです。

顧客コンテキストは過去の会話、取引、チャネル、エンタープライズシステムに分散しています。企業は、プライバシー、セキュリティ、ガバナンスの新たなリスクを生じさせずに、AI エージェントに十分なコンテキストを提供してより良い判断をさせるにはどうすればよいでしょうか？

断片化されたコンテキストへの答えは、AI エージェントにすべての情報へのアクセスを許可することではありません。適切なタイミングで適切な情報への統制されたアクセスを提供することです。企業は、エージェントを権威ある記録システムに接続しつつ、エージェントが閲覧・操作できる範囲を制御する強固なデータ統合層を必要とします。これには、役割・目的ベースのアクセス、最小限必要なデータ、系統追跡、監査ログ、機密情報の保護が含まれます。

コンテキストが増えることで AI の判断は向上しますが、統制が伴っている場合に限ります。統制がないと、1 つの問題解決がより大きなプライバシーやセキュリティの問題を招くことがあります。適切に管理すれば、システムは過去の例外から学習し、将来のやり取りをより賢くしつつ新たなリスクを生み出さないようにコンテキストを蓄積できます。

顧客向け AI がより自律的になるにつれ、AI エージェントと人間従業員の関係はどのように変化すると予想され、円滑な協働を実現するために組織は今何を構築すべきでしょうか？

人間の役割は、プロセスのすべてのステップを実行することから、作業量を担うエージェント群を指揮・監督・改善することへと徐々にシフトします。従業員は目標設定、例外処理、判断の行使、ハイリスク決定の検証、ワークフローの洗練、エージェントの挙動監視、そしてエージェント型システムの背後にあるアーキテクチャとガバナンスの向上に多くの時間を費やすようになるでしょう。これに伴い、企業が求めるスキルも変わります。AI に関するリテラシーは重要ですが、批判的思考、ドメイン専門知識、エージェントのオーケストレーション、可観測性、そして異常を検知した際に AI システムに挑戦できる能力も同様に重要です。

これは単なる人材課題に留まらず、組織はその協働を支えるアーキテクチャを整備する必要があります。エージェントを適切なデータやシステムに接続し、相互の連携方法を調整し、従業員が自らの活動を可視化できるようにします。ガバナンス、人間によるオーバーライド、エスカレーションはすべて、最初から設計に組み込む必要があります。

チーフエンタープライズアーキテクトとしての私の役割は、組織全体が AI の使い方だけでなく、いつ信頼し、疑問を持ち、制御すべきかを理解できるようにすることだと考えています。このように、アーキテクチャは信頼と実際のインパクトをもたらす説明責任ある AI への入り口となります。

素晴らしいインタビューをありがとうございました。詳しく知りたい読者は Genpact をご覧ください。