Babak Hodjat、Cognizantの最高AI責任者：再対話

Babak Hodjat、Cognizantの最高AI責任者として、同社のAIリサーチラボを率いており、エージェントAI、進化的計算、分散インテリジェンス、そして大規模エンタープライズ展開を想定したAIシステムの開発に取り組んでいる。長年にわたるAI研究者、発明家、起業家であるHodjatは、かつてSentient Technologiesを共同設立し、世界最大級の分散AIシステムの構築に貢献したほか、以前はDejimaを共同設立し、エージェント指向の自然言語技術を開発し、AppleのSiriの基礎となる技術に寄与した。

私たちが以前にBabak Hodjatと対話したとき、議論は彼のAIにおけるキャリア、複雑な意思決定への進化的アプローチ、CognizantがAIを用いて気候や土地利用の課題に取り組む活動、そしてエンタープライズ全体でのAIの民主化の進展について探った。今回のフォローアップ対話では、急速に台頭しているエージェントエンタープライズに焦点が移る。彼の最新著書The Agentic Enterpriseのテーマを踏まえ、Hodjatはアーキテクチャがモデルの能力以上に重要になる理由、組織がますます複雑化するAIエージェントネットワークをどのように調整できるか、集中型の信頼とガバナンスが分散型エージェントエコシステムにどのように位置付けられるか、そして自律システムが最小限の人間介入で長期的な目標を確実に管理できるようになるまでにまだ必要な変化は何かを検討する。

あなたのキャリアは、SiriのインスピレーションとなったDejimaの自然言語技術から、Sentientでの大規模分散AIシステムの構築、そして現在のCognizantでの最高AI責任者としての役割に至る、インテリジェントエージェントに関する最初期の取り組みのいくつかを網羅しています。その過程で“AIエージェント”の定義はどのように進化したのでしょうか。また、今日の開発者はこれら初期世代のエージェントベースシステムから何を学べるでしょうか？

定義自体は変わっていませんが、現在のエージェントの能力により、1990年代に自らコーディングしなければならなかったエージェントの基本機能の多くが、LLMによって標準で利用可能になっています。そのため、LLMベースのエージェントが現在の標準となっており、人々がエージェントについて語るときは、インターフェースと推論を駆動するLLMが存在すると想定しています。

あなたの最新著書The Agentic Enterpriseにおいて、エンタープライズAIシステムは基盤モデルの単なる能力ではなく、むしろアーキテクチャが成功や失敗を左右すると主張しています。より強力なモデルへのアップグレードがエージェントAIの問題を解決すると想定する際、企業は何を誤っているのでしょうか？

ハーネス（すなわちエージェントの非LLM部分）がコーディングエージェントの成否を左右するように、マルチエージェントシステムのアーキテクチャは成功にとって極めて重要です。これは、アーキテクチャがエージェントが動作すべきコンテキストを反映しているためであり、エージェントエンタープライズを支える足場のようなものです。これがなければ、エージェントはエンタープライズの業務、データ、ワークフロー、プロセスという現実に根ざさないままになります。これは、従業員の職務記述書、プロセス定義、コミュニケーションプロトコルを含む企業の組織構造にやや似ています。

アクセス制御、アカウンタビリティ、オーケストレーション、可観測性、監視など、周囲のシステムがモデル自体よりも重要になることを強調されています。実稼働可能なエージェントアーキテクチャが実際に必要とするものは何で、ほとんどの概念実証（PoC）展開が何を欠いているのでしょうか？

概念実証（PoC）はしばしば基盤が不十分であるため、まずエージェントが企業の内部データやアプリケーションにアクセスできる環境で動作する必要があります。重要な質問として、エージェントにどのデータやアプリケーションへのアクセスを許可する準備があるか、システムの安全性とセキュリティを保ちつつ期待する品質と生産性向上を実現できるよう、エージェントにどのような意思決定を許容できるか、が挙げられます。PoCの段階ではこれらの質問への答えを見つけるのは困難です。さらに、ガードレールや監視は、エージェントシステムが社内の他の人間またはエージェントプロセスと連携して運用される場合にのみ有意義です。したがって、サンドボックス化はPoCから本格展開へ効果的に移行するプロセスにおける重要なステップです。

CognizantはAIエージェントネットワークを調整するための「エージェントオペレーティングシステム」の出現を説明しています。このようなレイヤーはどのような機能を果たすべきか、またエージェントのオーケストレーションが将来的にオペレーティングシステムやクラウドプラットフォームが現在エンタープライズコンピューティングの基盤となっているのと同様に、根本的な存在になると予想しますか？

エージェントの調整は重要です。調整を過度に硬直させると、システムは劣化し脆弱になります。調整を完全にエージェントに委任しすぎて緩すぎると、エージェントのタスクが過度に複雑またはリスクが高くなる恐れがあります。適切な調整メカニズムは、エージェントがさまざまな状況に応じて自発的にチームを形成できるようにし、堅牢で流動的な組織的規律を実現します。私は分散型調整の支持者です。これは、人間の組織に対してその責任領域に一定の権限を付与することに似ています。コンテキストが現れたとき、組織のメンバーは組織構造を通じてコミュニケーションと調整を行い、状況対応に責任を持つ個人を特定し、応答は組織ノード間で収集・調整・統合されます。良いニュースは、エージェントシステムに対して厳格な制御と安全策を適用できるため、この柔軟性がリスクのある行動につながらないことです。

私は、MCP がエージェントアプリケーションへのアクセスの事実上の標準となったように、調整プロトコルもエージェントプラットフォーム全体で出現し、標準化されてエージェントシステムの境界を超えた自発的なマルチエージェントプロセスを可能にすると考えています。ここでの類推として、オペレーティングシステムやクラウドプラットフォームは最適ではありません。むしろ、エンタープライズにおけるエージェント化の浸透と発展を促すために、マルチエージェントの定義と調整プロトコルに関する広く合意された標準が生まれる必要があります。

企業が個々のコパイロットから、数十、場合によっては数百の専門エージェントを含むネットワークへ移行する際、組織はどの責任を個別エージェントに割り当て、どの責任を集中管理すべきかをどのように判断すべきでしょうか？

インターネットのファイアウォールやセキュリティ機構と同様に、ポリシーに対するリアルタイム監査による信頼の確立とエージェントシステムへのガードレール適用は、企業内で単一の部門が定義・維持する集中型機能とすべきです。他のエージェントシステムは分散的に導入・実装できるものの、稼働許可を得るためには信頼システムに登録しなければなりません。

Cognizantは社内で約200エージェントを約35万人の従業員からなる組織全体に接続するマルチエージェントシステムを導入しました。その規模で運用することで、エージェントAIについて小規模なパイロットでは見つけにくい何が明らかになったのでしょうか？

スケーラビリティ、拡張性、コスト効率、そして妥当な応答時間を考慮して設計する必要がありました。このような大規模プロジェクトでは、ユーザーが少ない小規模なエージェントシステムでは不要な機能を新たに考案せざるを得ません。例えば、エージェント間の調整を個別化かつ効率的に行い、余分な手順やコストを回避する必要があります。また、システムはカスタム構築アプリだけでなくサードパーティのシステムやエージェントも取り込めるようにすべきで、相互運用性が重要であり、時間と費用の節約につながります。

自律エージェントが API を呼び出し、エンタープライズシステムにアクセスし、他のエージェントと通信し、機械速度で行動できるようになると、従来の AI ガバナンスは格段に困難になります。人間による監視が必須であるべき領域と、組織がエージェントに独立して運用させても安全な領域はどこでしょうか？

人間の監視が必要かつ必須となる最終的な判断基準は「信頼」だと考えます。これらのシステムがより信頼できるようになるにつれて、より大きな自律性を付与し、法的に義務付けられない限り（例：AI に人格がないことなど）エージェントに委ねることに安心感を持てるでしょう。したがって、信頼とリスクを測定することは重要であり、自律性と人間監視の境界線を描く手助けとなります。この境界線は、システムがより信頼でき、自治的に運用するリスクが低減するにつれて変化し始める可能性があります。

これまでの研究の多くは進化的計算や選択・適応を通じて改善するシステムに焦点を当ててきました。エージェントが単に事前定義されたワークフローを実行するだけでなく、継続的に改善できるようにするために、進化的手法は大規模言語モデルや強化学習をどのように補完できるでしょうか？

現在の AI の主流は勾配降下法で、これはあまり創造的でないヒルクライミング探索の一形態です。進化的計算は複雑な探索空間を効率的に検索でき、主流手法を補完します。例えば、当ラボは最近、進化戦略がほとんどの LLM の事後トレーニングにおいて強化学習よりも優れていることを実証し、同等またはそれ以上の品質のモデルをはるかに低コストで実現できるという突破口を開きました。進化的手法は、LLM がデプロイ後に学習できることを目指す Test‑Time Training にも貢献できる可能性があります。

Cognizant の研究では、相互作用するエージェントが協調、競争、知識共有、さらには欺瞞的戦略を発展させる環境を探求しています。マルチエージェントシステムがますます複雑化する中、エマージェント（自発的）な振る舞いが、エンタープライズ AI を予測可能かつ組織目標に合致させる上で最大の課題の一つになる可能性はありますか？

これはすでに事実であり、広く報道された最近のOpenAI/Hugging Face事件が証拠です。エージェントはプロンプトとコンテキストに限定され、実行時に学習しないLLMを利用しているため、行動は概ね一貫していると考えるかもしれません。しかし、エージェントの環境や動機は変化し得ることが実際にはあり、しばしばエージェント自身の環境内での行動が原因で予期せぬ振る舞いを引き起こします。複数のエージェントが相互作用するほどこの可能性は高まり、したがって安全なサンドボックス環境で自律エージェントを観察し、出現する傾向の範囲と規模を把握し、エージェント設計と保護策に組み込むことが重要です。私たちの公開システムであるTerraLinguaでは、エージェントやアーティファクトを導入したり、エージェントになりすましたりして、個々および集合的な振る舞いを観察できます。これはその方向への一歩です。

現在のエージェントAIの波を超えて、長期間にわたる複雑な目標を最小限の人間介入で確実に管理できるAIシステムを構築するために、まだ欠けている技術的ブレークスルーやアーキテクチャの転換は何だと考えますか？

今日のエージェントの多くの制限は、AIの最先端技術の限界に起因しています。LLMは訓練後ほぼ固定されており、新たな情報に直面しても『考えを変える』ことはできません。LLMはすべてでありすべてであるため、コンテキストやプロンプトで事前に設定する必要があり、これらのプライミングに非常に敏感です。LLMはコンテキストウィンドウが限られており、生成する各単語や実行する各アクションごとにすべてを再度供給しなければなりません。マルチエージェントレベルでは、エージェントの未来がその潜在能力を最大限に発揮するために、広く受け入れられた分散協調プロトコル、信頼のガードレールとポリシー、そして取引仲裁システムが必要だと考えます。

素晴らしいインタビューをありがとうございました。詳しく知りたい読者はCognizantまたは前回のインタビューをご覧ください。