ノア・シュワルツ、Quorum AIの共同創設者兼CEO – インタビュー・シリーズ

ノアはAIシステムアーキテクトです。Quorum AIを共同創設する前に、ノアは12年間の学術研究に従事し、最初は南カリフォルニア大学で、最近はノースウェスタン大学の神経生物学の准教授でした。彼の研究は脳での情報処理に焦点を当てており、増強現実、脳コンピュータインターフェース、コンピュータビジョン、組み込みロボティクス制御システムなどの製品に研究を翻訳しています。

あなたのAIとロボティクスへの興味は子供の頃から始まりました。どのようにしてこれらの技術に初めて触れたのですか?

最初の火花はサイエンス・フィクション映画と電子機器への愛から来ました。8歳の時にトロンを観たのを覚えています。その後、エレクトリック・ドリームズ、ショート・サーキット、DARYL、ウォー・ゲームズなどを次の数年間で観ました。フィクションを通じて提示されたものでしたが、人工知能のアイデアは私を驚かせました。8歳でしたが、AIへの強い関心と引き付けられる感覚を感じました。その感覚はそれ以来一度も薄れませんでした。

あなたのAIとロボティクスへの情熱はどのように進化しましたか?

私のAIとロボティクスへの関心は、脳への情熱と並行して発展しました。私の父は生物学の教師で、体の仕組みやすべてのつながりについて教えてくれました。AIと脳を観察することは、同じ問題に直面しているように感じました – または少なくとも、同じ究極の質問を持っていました。どのように機能しているのか？私は両方に興味がありましたが、学校ではAIやロボティクスに触れる機会はありませんでした。したがって、私はAIを独自に勉強し、学校では生物学と心理学を学びました。

大学に入学すると、Parallel Distributed Processing (PDP) booksに出会いました。これは私にとって非常に重要でした。これらは私が初めて出会った本格的なAIでした。これは私を古典的なものへと導きました。例えば、Hebb、Rosenblatt、そしてMcCulloch and Pittsです。私は神経解剖学と生物学、心理学のクラスで学んだことを基に、ニューラルネットワークを構築しました。卒業後、コンピュータネットワークエンジニアとして働き、複雑なワイドエリアネットワークを構築し、トラフィックフローを自動化および管理するソフトウェアを書きました。つまり、大きな脳を構築するようなものでした。この仕事は私の中でのAIへの情熱を再燃させ、AIと神経科学を学ぶために大学院に進学する動機となりました。残りは歴史です。

Quorum AIを共同創設する前に、あなたは12年間の学術研究に従事し、南カリフォルニア大学とノースウェスタン大学の神経生物学の准教授でした。当時のあなたの研究について少し詳しくお話しください。

広い意味で、私の研究は脳が何をどうやって行っているのかを理解しようとするものでした。私は脳がコンピュータ（フォン・ノイマン方式）の一種であるという考えに賛同しません。私はそれを、主に刺激応答と信号符号化操作を行う巨大なネットワークと見なします。このネットワークの中には、機能的に特化した領域間の明確な接続パターンがあります。拡大すると、ニューロンは信号の内容や脳のどの部分にいるかを気にせず、非常に予測可能なルールに従って動作します。したがって、機能的に特化した領域の機能を理解したい場合、次の質問をしなければなりません。(1) 入力がネットワークを通過するとき、他の入力とどのように収束して決定を生み出すのか？(2) 経験の結果、特化された領域の構造はどのように形成されるのか？(3) それらはどのようにして変化するのか、私たちが脳を使い、学習をしていくにつれて？私の研究は、これらの質問に答えるために、実験研究と情報理論とモデリングとシミュレーションの混合を使用しました。神経生物学用語では、神経可塑性と視覚皮質のような特化された領域の微小解剖学を研究しました。

あなたはその後、研究を拡張現実や脳コンピュータインターフェースに応用しました。どんな製品に取り組んだのですか?

2008年頃、現在では拡張現実と呼ばれるもののシステムを開発していました。当時は、目運動を追跡して予測し、それらの予測を使用して画面上の何かを更新するシステムでした。リアルタイムで動作するために、生物にインスパイアされたモデルを構築し、視聴者の微小な眼球運動（ミクロサッカード）に基づいて視聴者の目が向かう場所を予測しました。モデルを使用して、視聴者の目がまだ動いている間に、グラフィックカードのフレームバッファを更新しました。視聴者の目が新しい場所に到達したとき、画像はすでに更新されていました。これは2008年に普通のデスクトップコンピュータで動作し、遅延はありませんでした。テクノロジーは非常に優れていましたが、プロジェクトは次の資金提供ラウンドに進むことはできませんでしたので、プロジェクトは終了しました。

2011年、製品開発に重点を置いて、ストリーミングEEGデータから特徴を発見できるニューラルネットワークを構築しました。これは、ほとんどの脳コンピュータインターフェースシステムの核心機能です。このプロジェクトは、どれだけ小さなフットプリントで動作できるかという実験でもありました。EEGデータを読み取るヘッドセットを使用し、400Hzで数チャンネルのデータをAndroid電話にBluetooth経由で送信し、特徴抽出と分類を行い、アーカイブされたオフザシェルフのRCカーを制御するArduinoパワードコントローラーに送信しました。使用中、EEGヘッドセットを着用している人は、精神的な計算から歌を歌うように考えを変えることで、車を運転し、ステアリングできます。アルゴリズムは電話で動作し、各ユーザーに個人用の「脳の指紋」を作成し、各ユーザーが複数のロボティクスデバイス間を切り替えることなく、再トレーニングせずにデバイスを操作できるようにしました。私たちが作成したスローガンは「Brain Control Meets Plug-and-Play」でした。

2012年、システムをより分散されたハードウェアで動作するように拡張しました。多セグメント、多関節のロボティックアームを制御しました。各セグメントは独立したプロセッサで動作し、AIの組み込みバージョンを実行しました。中央コントローラーを使用してアームを操作するのではなく、セグメントが自己組織化してターゲットに到達するようにしました。つまり、アリがアリの橋を形成するように、アームのセグメントは協力して空間内のターゲットに到達しました。

2013年にQuorum AI（当時はQuorum Robotics）を最初に立ち上げたときと同じ方向に進み続けました。すぐに、システムの素晴らしさはハードウェアではなく、アルゴリズムとアーキテクチャによるものであることを認識しました。2014年後半に、完全にソフトウェアにシフトしました。現在、8年後、Quorum AIはロボティクスのルーツに戻ってきています。NASAのスペースロボティクスチャレンジにフレームワークを適用しています。

教授の職を辞めてスタートアップを立ち上げることは、非常に難しい決断であったはずです。どうしてその決断を下したのですか?

多くの点で私にとって大きな飛躍でしたが、機会が訪れ、道が明確になったとき、決断は簡単でした。教授である場合、多年単位で考えることが多く、非常に長期的な研究目標に取り組んでいます。スタートアップを立ち上げることは、まったく逆のことです。ただし、学術生活とスタートアップ生活には共通点があります。両方とも、常に問題を学び解決する必要があります。スタートアップでは、これは製品開発リスクを軽減するための解決策を見つけること、またはテクノロジーが恩恵を受ける可能性のある新しい 垂直市場を研究することになるかもしれません。AIで働くことは、私が感じたことがない「使命」に最も近いものです。したがって、すべての課題と上下にもかかわらず、私は運がいいと感じています。

その後、Quorum AIを開発しました。Quorum AIは、すべてのデバイスとプラットフォーム向けのリアルタイム、分散型人工知能を開発しています。プラットフォームについて詳しくお話しください。

プラットフォームはEnvironment for Virtual Agents（EVA）と呼ばれています。EVAを使用すると、ユーザーはEngram AIエンジンの使用してモデルを構築、トレーニング、デプロイできます。Engramは、私たちが構築した私たちの教師なし学習アルゴリズムをラップする、柔軟で移植可能なラッパーです。アルゴリズムは非常に効率的で、モデルが予測を生成するリアルタイムで学習できます。アルゴリズムはタスクに依存しないため、入力や出力はありません。したがって、ベイジアン方式で、再トレーニングやカタストロフィック・フォゲッティングを犠牲にすることなく、任意の次元で予測を行うことができます。モデルは透明で分解可能で、個々の次元に分解することなく、学習されたものを調査し、分解することができます。

構築後、モデルはEVAを介して、カスタム組み込みハードウェアやクラウドまで、任意のプラットフォームにデプロイできます。EVA（および組み込み可能なホストソフトウェア）には、各モデルの機能を拡張するためのツールが数多く含まれています。いくつかの簡単な例を挙げます。モデルは、パブリッシュ/サブスクライブ・システムを介してシステム間で共有できます。これにより、分散システムは時間と空間の両方で連邦学習を実現できます。モデルは、任意のタスクを実行するための自律エージェントとしてデプロイできます。モデルはタスクに依存しないため、タスクは実行時間中に変更できます。各エージェントは、他のエージェントのモデルをスケールフリーにシミュレートできる「仮想」EVAを拡張できます。最後に、Kerasベースのディープラーニングと強化学習システム用のラッパーを作成して、Engramベースのシステムと協力してプラットフォームで動作できるようにしました。

以前、Quorum AIのアルゴリズムを「数学的な詩」と表現しました。どういう意味ですか?

モデルを構築する際には、データのインベントリを取り、既知のモデルクラスを試してシステムを近似しようとします。基本的には、システムのスケッチを作成し、どれが最もよく当たるかを見ています。データに非常によく当たることを期待していないので、少し試行錯誤が必要です。しかし、私が脳の神経可塑性をモデル化していたとき、私がシステムを最も基本的な要素に還元し、それらの要素を特定の方法で配置したとき、モデルはデータに非常によく当たるようになりました。方程式の各演算子と変数が、データを当てはめるために必要なもので、余分なものはなく、すべてがデータを当てはめるために必要でした。モデルを大規模なシミュレーションに接続すると、視覚システムの発達や顔認識などの非常に複雑な接続パターンが形成され、脳で見られるものと一致しました。モデルは数学的だったので、脳が何を学んでいるかについての新しい洞察を与える、数学的な分析によって脳のパターンを理解することができました。以来、私たちはモデルを構成する微分方程式を解いて簡略化し、計算効率を数桁改善しました。実際の詩ではありませんが、詩のようなものでした!

Quorum AIのプラットフォーム・ツールキットにより、デバイスはクラウドベースのサーバーを介さずに、学習し、データを共有できます。クラウドベースのサーバーを使用するのではなく、この方法で行うことの利点は何ですか?

ユーザーは、セキュリティ、プライバシー、または機能を妥協することなく、AIを任意の場所に配置できるようにします。AI開発の現状は、企業がクラウドベースのAIサービスを使用することを余儀なくされることが多いというものです。企業が自社でAIを構築しようとすると、多くの場合、多大な時間とお金がかかり、ROIはリスクに値しないものになることがあります。企業がクラウドに接続されていないデバイスにAIをデプロイしようとすると、プロジェクトはすぐに不可能になります。結果として、AIの採用は幻想のままになります。

私たちのプラットフォームは、企業が技術的なオーバーヘッドや財務的なオーバーヘッドなく、AIの開発と採用を探索できるようにします。また、開発からデプロイまでの一貫したステップでAIを提供します。

私たちのプラットフォームは、ディープラーニングや強化学習などの「レガシーモデル」との互換性もあり、既存のシステムを新しいアプリケーションに統合して再利用できます。同様に、私たちのアルゴリズムとアーキテクチャは独自のものなので、私たちのモデルはブラックボックスではなく、システムが学習するものはすべて人間によって調査および拡張できます。また、私たちのモデルは、他の分野への適用を可能にします。

分散型人工知能（DAI）は、人工一般知能（AGI）への道を開く可能性があると考えられています。私もこの理論に賛同しますか?

賛同します。私たちが目指している道です！脳を観察すると、単一のシステムではなく、機能的に特化した分散システムで構成されていることがわかります。私たちが特定のシステムが何をしているのかを知る必要があるかもしれませんが、その決定は、受け取る情報の種類と時間の経過に応じて大幅に依存しています。（これが、コネクトームなどの神経科学のトピックが人気の理由です。）

私の意見では、脳のように柔軟で動作するAIを構築したい場合、脳に見られるような分散アーキテクチャを検討する必要があります。代替案は、ディープラーニングや強化学習のようなモノリシックで柔軟性のないアーキテクチャを継続的に改良することです。私は、これらの制限は、ディープラーニングや強化学習（または、実際には、教師あり学習方法）に固有のものであり、少なくとも今日私たちが定義するように、単にパラメータの調整、層の追加、データの条件付けでは解決できないと考えています。したがって、新しいアプローチが必要です。

DAIを使用してAGIを達成する可能性は、OpenAIやDeepMindのような企業が現在追求している強化学習やディープラーニング法を使用するよりも高いですか?

はい。OpenAIやDeepMindは、ブログで述べていることからすると、より分散されたアーキテクチャを使用しているのではないかと思います。マルチシステムの課題について、転送学習や連邦学習/分散学習について、ディープラーニングや強化学習アプローチでは機能しないという話を聞くようになっています。生物にインスパイアされたアーキテクチャがギャップを埋める可能性について、ヨシュア・ベンジョーなどの先駆者からも話を聞いています。私はほぼ20年間、生物にインスパイアされたAIに取り組んでいます。したがって、私がQuorum AIで学んだことと、私たちが次世代のAIを構築するためにそれを使用する方法について、非常に自信を持っています。

Quorum AIについてさらに何か共有したいことはありますか?

私たちは、2020年6月の連邦および分散型マシンラーニング・カンファレンスで、新しい分散型およびエージェントベースのAIプラットフォームをプレビューする予定です。トークの中で、センチメント分析を通じて共感的なAIを実現するためのいくつかのトピックについて最近のデータを提示する予定です。

ノアへのこの素晴らしい回答に感謝し、Quorumについてもっと知りたい場合は、Quorumを訪問することをお勧めします。