NeoCognitionの共同創設者兼CEO、Yu Su – インタビュー・シリーズ

Yu Su、NeoCognitionの共同創設者兼CEOは、長年の人工知能研究者であり、学術、企業向けAI、先端的なエージェントシステムを研究してきました。NeoCognitionを率いるだけでなく、オハイオ州立大学で准教授兼イノベーション・スカラーを務めており、そこでの研究はAIエージェント、推論システム、機械学習に焦点を当てています。彼の経歴には、Percy Liangと共にOutlook向けの会話AIシステムの開発に従事したMicrosoftでの6年以上のシニアリサーチャーとしての経験もあります。Microsoft (MSFT ) 、学術、IBM T.J. Watson Research Centerなどの研究機関での役割を通じて、Yu Suは、理由付け、学習、複雑なデジタル環境と対話することができるAIシステムを開発することで、研究と実用のギャップを埋めることを目指してきました。

NeoCognitionは、AIエージェントの研究会社であり、「特殊化された知能」と呼ばれるAIシステムの開発に注力しています。AIシステムは、経験を通じて継続的に学習し、改善します。主要なAI研究者によって設立されたこの会社は、静的な大規模言語モデルから、特定のドメインで深い専門知識を身につけることができるエージェントへと、ビジョンを拡大しています。研究は、継続的な学習、推論、計画、ツールの使用、多エージェントの共同作業などの分野に焦点を当て、AIシステムが時間の経過とともにより有能で信頼性の高いものになることを目指しています。機械学習の進歩と構造化された推論および適応学習技術を組み合わせて、NeoCognitionは、複雑な現実世界のタスクに取り組むことができる次世代のAIエージェントを形作ることを目指しています。

多くの企業が、汎用的なAIコピロットをリリースしましたが、実際の生産環境でこれらのシステムの信頼性についての懸念が高まっています。現在のAIエージェントが制御されたデモの外で苦労する理由について、どのように考えていますか。

現在のAIエージェントは、基本的に汎用的なエージェントであり、動作する環境に対する理解が不足しています。デモではタスクを完了できるかもしれませんが、それは実際の運用システム内で繰り返し判断を発揮することとは異なります。

今日のモデルは印象的なパターン・マッチングですが、まだ人間が信頼性のある専門家になるためのメカニズムを欠いています。人間は、単に孤立したタスクを記憶することで信頼性のある専門家になりません。私たちは、特定の世界の構造を学習することで専門化します。ワークフロー、制約、関係、ツール、優先順位、結果など、職業や組織を定義する要素を学びます。時間の経過とともに、私たちはその環境の内部モデルを構築し、それが信頼性のある決定を可能にします。

現在のAIエージェントは、そのような運用上の理解を構築しません。プロンプト、リトリーブ、オーケストレーション・レイヤーに大きく依存し、孤立したアクションを完了するのを助けますが、新しい状況に直面するとまだ即興で対応しています。環境が変化し、特に混沌とした、ダイナミックな、または高リスクの状況になると、パフォーマンスは崩壊しやすくなります。

欠けている部分は特殊化です。人間は、環境が変化するにつれて適応し、継続的な学習を通じてそれらの環境内で専門家になります。私たちは、AIエージェントも同様の能力が必要だと考えています。特定のドメインのローカル構造を深く学習し、実際の熟練度で動作できる能力が必要です。

NeoCognitionは、AIエージェントが人間のように継続的に学習し、適応できるようにするというビジョンを描いています。技術的に見ると、これは現代の企業が依存している静的なファインチューニングやリトリーブベースのアプローチとはどう異なりますか。

現在の企業向けAIシステムは、モデルを一度ファインチューニングしたり、推論時に関連情報をリトリーブしたりすることでパフォーマンスを向上させています。これらのアプローチは有用ですが、エージェントがドメイン内で進化する専門知識を身につけることを根本的に可能にしません。

ファインチューニングは通常、トレーニング後は静的です。リトリーブ・システムは情報を表面化するのを助けますが、知識をリトリーブすることはドメインの専門知識を身につけたり、経験を通じて行動を適応させたりすることとは異なります。多くの場合、エージェントはまだ動作する環境に対する永続的なモデルを欠いています。

人間が会社に加わったとき、彼らは単にドキュメントを検索できるからと言ってすぐに有効になるわけではありません。彼らは、組織が実際にどのように機能するかを理解することで、判断力を徐々に発達させ、専門知識が内部モデルを繰り返し精錬することから生まれます。

私たちは、次世代のエージェントが同様の学習メカニズムを必要とすることを信じています。NeoCognitionでは、エージェントがそれらの種の進化する運用モデルを形成できるようにすることに焦点を当てています。そうすれば、エージェントはドメイン内で継続的に専門化し、改善できるのです。再度スクラッチから始めたり、人間の再エンジニアリングに依存したりするのではなく、時間の経過とともにです。

AIの実験と運用上の信頼性の間には、拡大するギャップがあるようです。企業は内部でエージェントを成功裏にプロトタイプ化するかもしれませんが、実際に展開することは別の課題です。企業はこの移行をどのように見積もっていますか。

多くの企業は、実際の運用環境がどれほどダイナミックであるかを軽視しています。エージェントが85%の精度で動作することはテストでは強力に見えますが、企業規模では、それは人間のチームが管理しなければならない、継続的なエラーと回復状況のストリームに翻訳されます。タスクやシステムが複数あるワークフローでは、失敗が複合し、監視、介入、説明責任が予想よりもはるかに困難になります。

企業はまだ展開をオーケストレーションまたはプロンプトの問題として扱っていますが、実際にはそれは学習の問題でもあります。タスクを実行することが難しいのではなく、システムが持続的な能力と判断力を開発できるようにすることが難しいのです。カスタマイズ、プロンプト、監督、再エンジニアリングの負担は、人間のチームにまだ大きく依存しています。それは、システムがまだ運用上の理解を欠いていることを示しています。彼らは毎回手動で導かれます。那はスケールや信頼性への道ではありません。

AI業界では、ガバナンス、ガードレール、ポリシー・エンフォースメントが大きなテーマとなっています。しかし、NeoCognitionはガバナンスだけは不十分だと主張しています。なぜ、静的なルールに従うのではなく、実際の運用環境に継続的に適応することが信頼性を達成するための重要な要素であると考えるのですか。

ガバナンスとガードレールは非常に重要ですが、静的なルールだけでは複雑な環境での信頼性を完全に解決することはできません。

生産レベルの運用システムは常に変化しています。ワークフローは進化し、ツールは更新され、ポリシーはシフトし、予測できない状況が生じます。エージェントが環境を理解することなく、前もって定義されたルールに従うだけでは、ルールが予測できなかった状況に遭遇することになります。

人間の信頼性は、スクリプトに厳密に従うことではなく、判断力から来ています。私たちは、世界の構造と制約を理解することで判断力を発達させます。私たちは、エスカレーションが必要な時、異常な状況を認識する時、またはコンテキストが変化した時を学びます。

私たちは、AIエージェントも同様の適応性と環境理解の能力を必要とすることを信じています。より安全なシステムは、明確に定義された運用世界内でより有能で特殊化されたものになることで実現します。そうしたシステムは、自身の環境と出力を観察し、自身の失敗を追跡し、行動を更新します。

AI業界は、より大きなモデルや幅広い機能に焦点を当てていますが、NeoCognitionは特殊化とコンテキスト・ラーニングに重点を置いています。将来的には、企業向けAIエージェントは、汎用的なアシスタントではなく、高度に特殊化されたデジタル・ワーカーのようなものになるのでしょうか。

私たちは強く、将来は特殊化によって推進されることを信じています。業界は、より幅広いモデルに焦点を当てているのは当然ですが、企業環境では、エージェントがあらゆること一点ずつできるかではなく、特定の役割を信頼性と健全な判断力で果たすことができるかが課題です。私たちの強みは、すべての環境で生まれつきの専門家であることではなく、特定の世界の構造を深く学習して有効に動作できることです。

NeoCognitionでは、将来は一つの超エージェントがすべてを実行するのではなく、多数の特殊化されたエージェントによって推進されることを信じています。各エージェントは、特定の世界を深く学習して、専門家レベルの熟練度、信頼性、判断力で動作できるようになります。彼らの目的は、人間の専門知識を置き換えることではなく、専門知識をより豊富にし、どの個人や組織でもできる基準を高めることです。

自律エージェントを取り巻く最大の懸念の一つは、環境が予期せず変化したときにどう振る舞うかという点です。現実世界での適応と環境認識が、故障、妄想、または危険な行動を防ぐ上でどれほど重要かについて、ご意見をください。

それは絶対に重要です。環境認識がなければ、エージェントは状況の理解が古くなったり不完全なりとしても、自信を持って行動し続けることができます。那は運用上の故障が生じる場所です。

私たちは、エージェントが動作する環境のローカル構造を継続的に学習し、理解を時間の経過とともに更新することが信頼性を必要とすることを信じています。信頼性は時間の経過とともに変化し、進化します。9月には信頼性のあるものと思えたことが、5月にはそうではないかもしれません。エージェントがシステム、制約、ワークフロー、関係をより深く理解するにつれて、条件の変化や不確実性がエスカレーションを必要とすることをより能動的に認識できるようになります。

AIシステムが実際の運用環境との継続的な相互作用を通じて真正に自己改善できるシステムの展開に、業界はどれほど近いと思いますか。

私たちは、信頼性のある継続的な学習と自己改善に必要な基礎的な学習メカニズムを構築するのはまだ初期段階ですが、業界はこの移行に比べて思ったよりもはるかに近いと思います。私たちは圧縮されたタイムラインの中に生きています。次の技術ブレークスルーのための要素は準備されています。それは非常に近い将来に起こる可能性があります。

重要なのは、抽象的な自己改善ではなく、実際の環境内での構造化された特殊化です。那は、ワークフロー、制約、関係、成功行動のパターンを安定した、統治可能で、壊滅的な忘却に抵抗する方法で学ぶことを意味します。那が私たちがNeoCognitionで取り組んでいる問題です。

数年先を見て、信頼できる企業向けAIエージェントと現在市場を氾濫する実験システムの波との間で、最終的にどのような違いが生まれると思いますか。

成功するシステムは、玩具のようなシナリオではなく、信頼できるオペレーターのように感じるものになります。

生のモデル能力だけでは不十分です。企業は、エージェントが実際の環境内で一貫して動作するか、ローカルのワークフローと制約を理解するか、境界と許可を尊重するか、時間の経過とともに安全に適応するか、繰り返し実行可能な成果を達成するかどうかを気にするでしょう。

企業向けAIの将来の勝者は、最も幅広い質問に答えることができるシステムではありません。特定の運用世界を深く学習し、そこで真正の熟練度、判断力、信頼性で動作できるシステムです。

素晴らしいインタビュー、ありがとうございます。詳しく知りたい読者は、NeoCognitionを訪問してください。