マニュエル・ロメロ、Maisaの共同創設者兼チーフサイエンティフィックオフィサー – インタビューシリーズ

マニュエル・ロメロ、Maisaの共同創設者兼チーフサイエンティフィックオフィサーは、信頼性の高いエンタープライズグレードの人工知能システムを開発することに焦点を当てた人工知能研究者およびエンジニアです。彼は、2024年にMaisaを共同創設し、透明性とコントロールを持って複雑なビジネスプロセスを実行できる説明可能な人工知能を構築するためにしました。Maisa以前は、ClibrainおよびNarrativaを含む企業でシニア人工知能エンジニアおよび機械学習役割を担っており、自然言語処理および大規模な人工知能システムに特化していました。彼のキャリアの初期には、フルスタックソフトウェアエンジニアおよびDevOpsスペシャリストとして働き、後に高度な人工知能研究および開発に移行し、オープンソース人工知能エコシステムの活発なコントリビューターとなりました。

Maisa AIは、追跡可能性、ガバナンス、および信頼性を維持しながら、複雑なエンタープライズワークフローを自動化するように設計された「デジタルワーカー」と呼ばれる自律的なエージェントを開発しています。プラットフォームでは、組織は自然言語を使用して人工知能エージェントを構築および展開でき、内部システムおよびデータソース全体で自動化を実現するために、広範なコーディングが不要になります。検証可能な推論および構造化された実行に焦点を当てることで、Maisaは、生成型人工知能システムに関連する一般的な制限を克服し、エンタープライズが安全に大規模な自律的な人工知能を展開するのを支援することを目指しています。

人工知能システムの背後にあるより深い「なぜ」を理解することにしばしば焦点を当ててきました。技術的な観点から、2024年にMaisaを共同創設するきっかけとなったものは何でしたか。また、エンタープライズ人工知能アーキテクチャでは、どのようなギャップが解決されていませんでしたか。

Maisaを共同創設した動機は、ほとんどのエンタープライズ人工知能スタックがモデルではなくシステムを中心に構築されているという認識から生まれました。

生成型人工知能ブームの間、多くの企業は既存のワークフローに大規模な言語モデルを統合することに重点を置きました。ただし、これらのシステムは、しばしば壊れやすく、不透明で、拡大して運用するのが難しいことがありました。彼らは次のようなものが欠けていました。

• 重要な点での決定論的実行
• 強力な観察可能性、追跡可能性
• 再現性

私たちが見たギャップは、エンタープライズの真の人工知能インフラストラクチャの欠如でした。企業はLLM APIを中心にアプリケーションを構築していましたが、知識作業用のコンピューターアーキテクチャに相当するものが欠けていました。

Maisaは、知識処理ユニット(KPU)を中心に設計されたアーキテクチャを構築することで、このギャップを解決するために作成されました。KPUは、人工知能が信頼性の高いエンタープライズワークフロー内で動作できるようにします。

先進的な自然言語処理および生成システムで働いた経験は、プラットフォームのアーキテクチャ的選択にどのように影響しましたか。

自然言語処理および自然言語生成、特に言語モデルのトレーニングおよび事前トレーニング、そして後に大規模な言語モデル(数百個)で働いた経験は、実際のシステムをそれら上に構築しようとするときに、非常に明確でした。トランスフォーマーアーキテクチャは非常に強力ですが、生産環境で信頼性の高い方法で使用するには、少なくとも3つの基礎的な制限を解決する必要があります。

最初の制限は、ホールシネーションです。これらのモデルは確率的にテキストを生成し、正確ではないが正しそうな出力が生成される可能性があります。

2番目の制限は、コンテキストの制限です。コンテキストウィンドウが大きくても、モデルは有界トークン空間内で動作し、大規模または複雑な知識ボディを推論することが困難になります。

3番目の制限は、最新の情報です。事前トレーニングされたモデルはトレーニング時点でのスナップショットを表し、エンタープライズ環境では、常に変化する情報を推論できるシステムが必要です。

これらの制約を認識することで、Maisaの多くのアーキテクチャ的決定が形作られました。モデルだけに頼るのではなく、構造化された知識へのアクセス、検証メカニズム、および制御された実行を提供するシステムを構築することに焦点を当てました。そうすることで、人工知能が実際のエンタープライズワークフロー内で信頼性の高い方法で動作できるようになります。

多くの企業は生成型人工知能で実験していますが、パイロットの範囲を超えて拡大するのに苦労しています。システム設計の観点から、拡大に失敗する企業の主な理由は何ですか。

多くの企業は、生成型人工知能のパイロットの範囲を超えて拡大するのに苦労しています。なぜなら、ほとんどの展開は実験として構築されており、堅牢なシステムとして構築されていないからです。初期のプロトタイプは、プロンプトエンジニアリング、軽量オーケストレーション、およびシンプルなリトリーバルパイプラインに依存することが多く、価値を示すことはできますが、生産環境に必要な信頼性、観察可能性、またはコントロールを提供できません。組織がこれらのシステムを拡大しようとすると、出力の一貫性のない出力、追跡可能性の欠如、エンタープライズワークフローとの統合の困難、および人工知能の動作に対するガバナンスの制限などの問題に直面します。根本的な問題は、大規模な言語モデルが確率的な生成器であるのに対し、エンタープライズプロセスでは予測可能で監査可能な動作が必要であるということです。推論、検証、実行、および監視を構造化するアーキテクチャがなければ、生成型人工知能システムは、孤立したユースケースを超えて拡大するのが難しいままです。

Maisaのデジタルワーカーは、確率論的ではなく、監査可能で構造化されたものとして設計されています。企業が生産環境での人工知能を評価する場合、これは何を意味しますか。

当社のデジタルワーカーは、確率論的ではなく、監査可能で構造化されたものとして設計されていることを意味します。人工知能は、推論およびアクションが追跡および管理できる制御されたシステム内で動作します。モデルが自由に出力および決定を生成するのではなく、システムは人工知能がデータ、ツール、およびワークフローとどのように相互作用するかを構造化します。プロセスの各ステップはログに記録され、検査および検証できます。アクションは、モデル出力から直接ではなく、定義されたインターフェイスを介して実行されます。企業にとって、これは人工知能システムが監視、監査、および重要なプロセスへの統合が可能になることを意味します。人工知能は、生産環境で信頼性の高いものになります。

知識処理ユニットのアーキテクトとして、大規模な言語モデルを中心に構築された典型的なオーケストレーションレイヤーまたはワークフローエンジンとはどのように異なりますか。

知識処理ユニットは、人工知能による推論の完全なライフサイクルを管理するように設計されているため、典型的なオーケストレーションレイヤーとは異なります。ほとんどのオーケストレーションフレームワークは、プロンプト、モデル呼び出し、およびツールの実行を連結するワークフローマネージャーとして機能します。KPUは、知識へのアクセス方法、推論方法、およびシステム内でのアクションの実行方法を構造化することで、より深いアーキテクチャレベルで動作します。知識処理をコアの計算レイヤーとして扱い、メモリ、検証、および制御された実行を統合して、人工知能が生成された応答を生成するのではなく、複雑なエンタープライズワークフロー内で信頼性の高い方法で動作できるようにします。

規制された業界では、リスク許容度は低いです。人工知能の出力が信頼性の高いものであり、複雑なワークフローにわたってエラーを伝播させないようにするために、どのような設計上の決定をしましたか。

規制された業界では、信頼性とコントロールが不可欠です。したがって、システムを信頼性の高いものにするために、いくつかの保証を設計しました。1つの重要な原則は、構造化された実行です。人工知能は、制御されたインターフェイスを通過しない限り、直接重要なアクションをトリガーできません。また、モデル出力をスキーマ、ルール、または二次的なメカニズムと比較する検証レイヤーを組み込みました。さらに、システムは推論ステップ、ツールの相互作用、および決定を完全に記録することで、完全な観察可能性を維持します。これらの設計上の選択は、エラーがワークフローを通して伝播するのを防ぎ、組織が規制された環境で必要な信頼性とガバナンスで人工知能システムを運用できるようにします。

デジタルワーカーが、ガイド付きアシスタンスから完全に動作する人工知能による実行に移行する、最も魅力的な初期ユースケースは何ですか。

最も魅力的な初期ユースケースは、プロセスが明確に定義されているが、依然として重要な分析および意思決定が必要な、知識集中型ワークフローで発生します。コンプライアンスレビュー、テクニカルサポートオペレーション、および内部ナレッジマネジメントなどの分野で、デジタルワーカーは、人間のアシストから完全に動作する人工知能による実行に移行できます。彼らは、大量の内部情報を取得および分析し、定義された手順を適用し、制御されたツールを介してエンタープライズシステムと相互作用し、直接運用ワークフローにフィードする出力を生成できます。重要な転換点は、人工知能が提案を生成するだけでなく、構造化されたタスクをエンドツーエンドで信頼性の高い方法で実行できるようになることです。

人工知能の規制的審査が世界的に強化されるにつれて、コンプライアンス要件を満たすために、コア人工知能インフラストラクチャはどのように進化するでしょうか。

人工知能の規制的審査が強化されるにつれて、モデルプロバイダーのAPIを単に呼び出すアーキテクチャから離れ、推論、検証、実行、および監視を構造化するアーキテクチャへの移行を見込むと考えられます。企業および規制当局は、人工知能の動作が観察可能、監査可能、および管理可能なシステムを要求するようになるでしょう。これは、知識処理ユニットのようなアーキテクチャが重要になる理由です。このようなシステムにより、組織はコントロールを施行し、決定を追跡し、人工知能の出力が信頼性の高いものであることを保証できます。時間の経過とともに、これらのシステムが信頼性の高い人工知能インフラストラクチャの標準的な基盤になることを予想します。

あなたは技術的な仕事とともに、倫理および説明責任についても話してきました。これらの視点は、透明性のある人工知能システムを構築する際に、あなたのアプローチにどのように影響していますか。

倫理および説明責任は、私にとってシステム設計の選択に直接翻訳されます。人工知能システムが実際の運用ワークフローに参加する場合、それらは不透明なブラックボックスとして機能することはできません。その視点は、私が人工知能システムを構築する際の私のアプローチに大きな影響を与えています。透明性、追跡可能性、および人間の監視は、最初からアーキテクチャに組み込まれる必要があります。これは、推論ステップが観察可能であり、決定が監査可能であり、アクションが制御されたメカニズムを介して実行されることを意味します。こうした原則がインフラストラクチャレベルで組み込まれると、人工知能システムは、より信頼性の高いものとなるだけでなく、組織が責任を持って管理することも容易になります。

今後、エージェント人工知能インフラストラクチャは、過去10年間にクラウドインフラストラクチャがそうだったように、基盤となるものになるでしょうか。そうなるためには、技術的に何が必要です。

エージェント人工知能インフラストラクチャが、過去10年間にクラウドインフラストラクチャが基盤となるものになったのと同様に基盤となるものになる可能性はあると考えます。組織は、複雑な知識作業を自動化しようとするにつれて、推論、メモリ、および実行を多数のタスクおよびデータソース全体で調整できるシステムが必要になるからです。ただし、技術的にこの移行が実現するには、アーキテクチャが単なるモデル統合を超えて成熟する必要があります。構造化された推論、信頼性の高いエンタープライズ知識へのアクセス、強力な観察可能性、およびアクションの制御された実行を提供するインフラストラクチャが必要です。これらの機能がコアシステムに組み込まれると、エージェント人工知能は、実験的なツールから、組織が重要な運用を実行するために依存する信頼性の高いインフラストラクチャに進化する可能性があります。

素晴らしいインタビュー、詳しく知りたい読者はMaisa AIを訪問してください。