micro1創業者兼CEO、Ali Ansari ― インタビューシリーズ

Ali Ansariはmicro1の創業者兼CEOで、人間の専門知識を高度なAIシステムの学習データや評価に活用することに取り組んでいます。起業家としての経歴には、ソフトウェア開発会社の立ち上げや、peerlincの創業が含まれます。その後、2022年にmicro1を立ち上げました。UC BerkeleyとStanfordでコンピューターサイエンスを学び、強化学習を専門としました。現在は、AI開発に専門家が貢献できるよう、人材の確保、評価、連携を支えるシステムに取り組んでいます。

micro1は、専門家の知見と現実的な作業環境を活用して、最先端のAIモデルの学習やAIエージェントの評価を支援するデータラボです。同社のプラットフォームは、法律、医療、金融、エンジニアリング、科学などの分野で、専門人材の採用、データ作成、品質審査、モデル評価を一体的に提供します。このインタビューでAnsariは、人間の専門知識への需要が高まっている理由、業務データが強化学習をどう支えるか、AIの学習や評価をめぐって生まれつつあるキャリアの機会について語ります。

2022年にmicro1を創業する前に、peerlincを立ち上げて売却しています。もともと、どのような課題を解決しようとしていたのでしょうか。また、micro1はどのようにして、最先端のAIモデルの学習と評価に取り組む会社へと発展したのでしょうか。

もともとは、自分の事業で抱えていた課題でした。ソフトウェア開発会社を経営していて、新しいプロジェクトが始まるたびに、さらに多くのエンジニアを探して面接する必要がありました。その作業に、膨大な時間を費やしていたのです。そこで、採用を支援するAI面接官のZaraを開発し、それがやがてmicro1になりました。

当初は採用ソフトウェアを販売し、審査を経た人材のマーケットプレイスを構築していました。するとある顧客から、AIモデルの学習に数百人のエンジニアが必要だと相談を受けました。なぜそれほど多くの人材が必要なのかを掘り下げていくうちに、モデル開発の現場では人間の専門知識が非常に強く求められていると気づきました。

私たちはすでに何年もかけて、大規模に人材を見つけ、審査する体制を築いていました。人間が作成するデータは、その基盤を活用できる非常に有力な分野でした。そこで、この事業に全面的に注力することにしました。自社のAI採用担当者を使って専門人材を探し、審査するとともに、その周辺にデータプラットフォームや品質管理システムを構築しました。現在は、研究機関が専門知識をより高いモデル性能へとつなげられるよう支援しています。

AIモデルの能力が高まるほど、人間の専門知識への需要はなくなるどころか、むしろ増えていると主張されています。この関係を生み出している要因は何でしょうか。

いくつかのことが起きています。まず、モデルの性能が上がるにつれて、より難しい仕事を任せるようになります。質問に答えられるモデルも役に立ちますが、業務全体を担えるモデルは、はるかに有用です。ただし、そこに至るには、より多くの専門家の知見が必要です。

次に、人間は新たな仕事を次々と生み出します。たとえば、弁護士が日々の業務の多くにAIを活用できるようになれば、より複雑な問題に取り組んだり、顧客向けの新しいサービスを開発したりする時間が増えます。そうして新たに生まれた仕事も、やはりモデルに学習させたい対象になります。私たちが「ラストマイルは存在しない」と言うのは、そういう意味です。仕事は絶えず変化し続けます。

合成データが加わると、状況はさらに興味深くなります。専門家が作成したタスクやフィードバックを合成データで拡張すれば、もとの人間による入力をより有効に活用できます。モデルの能力向上と並行して人間の専門知識への需要が高まり続けているのは、この組み合わせによるものだと思います。

micro1は、法律、医療、金融、エンジニアリング、科学など、さまざまな分野の専門家と連携しています。こうした専門家は、既存のオンラインデータだけでは学習できないどのような知見をAIシステムに提供できるのでしょうか。

優れた医師、弁護士、エンジニアを優れた専門家たらしめているものの多くは、実務を通じて培われた判断力です。その一部は文書化されていますが、多くは、珍しい事例への対処方法や、情報の不足に気づく力、あるいはどの詳細が本当に重要かを見極める力に表れます。

それは、モデルの学習にとって非常に価値があります。専門家は難しい課題を作成し、良い結果とはどのようなものかを説明し、モデルの回答がどこで不足しているかを正確に指摘できます。回答がとても説得力のあるものに聞こえても、その仕事に携わる人にとって最も重要な点を見落としている場合があります。

こうした違いを見分けるには、専門家の力が必要です。また、1人の判断だけではあらゆるケースを捉えられないため、複数の視点と強固な審査プロセスも欠かせません。目指しているのは、そうした経験をモデルが学習できるシグナルに変えることです。各分野には非常に多くの細かな違いもあります。たとえば法律の専門知識は、ひとくくりにはできません。専門分野や州・管轄区域によって異なり、国ごとの法制度によっても違います。それぞれの層で、より専門的な知識と判断力が必要になります。同じような奥深さは、あらゆる分野とその多くの下位領域に存在します。だからこそ、そうした違いが実務上何を意味するのかを理解している専門家が必要なのです。

業界の関心が、事後学習、強化学習、評価へと移るなか、現在、最先端モデルの改善を妨げている最大のボトルネックは何だとお考えですか。

現実的なデータへのアクセスは、最大級のボトルネックの一つだと思います。企業は何年にもわたって問題を解決し、判断を下し、例外的な事態に対処してきました。その経験は、文書やシステム、業務プロセスの中に蓄積されています。モデルに実際の仕事の進め方を学習させたいのであれば、これは非常に価値の高いデータです。

だからこそ、私たちはCompany Data Partnershipsプログラム（CDP）を立ち上げました。企業に対し、業務データのライセンス提供の対価を支払っています。対象には、社内文書、プロジェクトの履歴、CRMの記録、そして人々が仕事を進める際に従うプロセスなどが含まれます。価値の高い企業データセットには、データの内容やパートナーシップの条件に応じて、200万ドルを超える金額を支払っています。

そうしたデータを使って、現実に即した学習・評価環境を構築しています。顧客の問題を解決する場面を考えてみてください。アカウントの履歴を確認し、関連する方針を見つけ、どのような対応を取るべきか判断する必要があるかもしれません。その業務の流れに沿って構築された環境があれば、モデルはその手順を実践できます。専門家がタスクを定義し、適切に完了したかどうかを評価する方法も定めます。こうしたフィードバックがあるからこそ、その環境は強化学習に役立つものになります。

企業は、基礎となるデータの所有権を保持します。私たちは、プライバシー保護を含む利用範囲や取り扱い要件について合意したうえで、データを目的に応じて整備します。

価値の源泉は、記録に残された経験です。CDPは、その経験を生かして企業が収益を得られるようにすると同時に、モデルがはるかに現実に近い環境で業務を行う方法を学べるよう支援します。

モデルの能力が大幅に向上していくなかでも、AIシステムが再現するのは特に難しいままだと思われる、人間の判断力や専門性にはどのようなものがありますか？

人間の審美眼や創造性は、モデルにとって特に再現が難しい分野だと思います。その理由は、学習データをどのように作るかという点にあります。

多くのタスクでは、専門家を集めて、何が優れた成果なのかについて合意を得ることができます。それによって、学習に役立つシグナルが得られます。しかし、優れた画像や映画、心を引きつけるデザインとは何かを人々に尋ねると、話し合えば話し合うほど、意見が分かれていくことがあります。誰もが同意できる答えがあるとは限りません。

そうした分野でも、AIは非常に有用なものになり得ます。しかし、何を作りたいのか、誰に向けたものなのか、そして実際に相手の心に響くのかを判断するには、人間の判断力が大きく関わります。ツールによってものを作りやすくなるほど、その判断力はさらに重要になると思います。

専門家が、AIの学習や評価を副業ではなく、本格的な専門職として捉えるケースが増えています。これはまったく新しい雇用分野へと発展する可能性があるでしょうか。また、どのようなキャリアが考えられますか？

もちろんです。すでに数十億ドル規模の新たな仕事の分野が生まれています。専門家が、キャリアを通じて培った知識を生かし、AIの学習や評価を支援しています。人によっては、仕事人生のかなり大きな部分を占めるようになっています。

仕事の内容そのものも、非常に専門性の高いものになり得ます。弁護士であれば、難しいシナリオを作成し、モデルの回答をどう評価するかを定めることがあります。エンジニアであれば、エージェントがソフトウェアの一連の業務プロセスを最後までたどるタスクを構築することがあります。さらに、データを確認し、評価基準を改善し、専門家チームを率いる人たちもいます。この仕事によって、自分がその分野を選んだ原点に、より集中できるようになることもあります。多くの仕事では、本人が最もやりがいを感じる業務の外にある事務作業や義務に、多くの時間が費やされています。自分の専門分野でAIを学習させる仕事なら、難しい問題に取り組み、判断力を発揮し、経験から得た知見を共有することなど、自分の専門性を仕事の中心に据えられます。自分が大切にし、得意とすることに、より多くの時間を使いながら、AIがその仕事にどう取り組むかを形作る機会にもなります。

こうした仕事を軸に、実際のキャリアパスが生まれてくると思います。自分の専門分野の知識を学習データに落とし込むことや、データパイプラインを運用し、モデルがどこで支援を必要としているかを把握することに長けた人材になれます。これらは価値あるスキルですが、こうした役割がどのようなものになるのかは、まだ模索が始まったばかりです。

企業がAIモデルの改善に向けて医師、弁護士、エンジニア、科学者などの専門家を採用するなかで、専門性をどのように確認し、作成される学習データの正確性と一貫性をどう確保していますか？

私たちは、このための包括的なシステムを構築しました。まず、AI採用担当のZaraが、プロジェクトに必要なスキルを持つ専門家の募集と審査を支援します。次に、Meritツールを使って、専門家の貢献の質、速さ、信頼性を継続的に追跡します。専門性そのものだけでなく、それが生み出すデータにどのように反映されているかも把握する必要があります。

flowプラットフォームは、データの生成とレビューを支援するために開発したモデルと、専門家の作業を結び付けます。専門家がタスクと、優れた成果とは何かを定義します。次に、flow genがその出発点をもとに、新たな例やバリエーションを作成します。flow qcは、根拠の欠落や、タスクと採点基準の不一致などの問題がデータにないかを確認します。そしてflow graderが、その基準に照らしてモデルの性能を評価します。

重要なのは、専門家が誤りを見つけた後に何が起こるかです。その修正は学習データの改善につながるだけでなく、データ生成の仕組みや品質チェック自体の改善にも役立ちます。繰り返し起きる誤りを、次のバージョンで使うテストに変えることができます。

これが、私たちが構築している合成データのフライホイールです。人間の専門知識が出発点となり、判断を支えます。私たちのツールで規模を拡大し、専門家からのフィードバックを次のサイクルの改善に役立てます。そして、そうした変更によってモデルの性能が実際に向上するかを検証します。この循環に価値があるのはそのためです。

AIエージェントは、単に応答を生成するだけでなく、複雑な複数ステップのタスクを実行する必要性が高まっています。こうしたシステムのトレーニングや評価は、従来の大規模言語モデルの性能向上に必要な作業とどう異なるのでしょうか？

大きな違いは、タスクの長さです。エージェントは、有用な結果にたどり着くまでに、さまざまなツールを使って多くの操作を行う必要があるかもしれません。最初の数ステップをうまく進めても、ミスが積み重なり、最終的なタスク全体には失敗することがあります。

そのため、モデルがワークフロー全体を練習できる環境と、どこでつまずくのかを明らかにする評価が必要です。正しい情報を見つけられたか。ツールを適切に使えたか。望んでいた結果を実際に達成できたか。

さらに、その企業固有の状況もあります。ある企業の業務で働くエージェントには、その企業のプロセスや期待を理解することが求められます。汎用的な能力だけでは、できることに限界があります。

だからこそ、分野の専門家がとても重要になります。専門家は、失敗の原因を特定し、改善に必要なデータを作成するのを助けてくれます。評価して、課題を見つけ、その課題に対処するようトレーニングし、再び評価する。このプロセスは、エージェントがより多くの業務を担うようになるにつれて続いていきます。

最先端モデルの能力が高まるにつれて、モデルが必要とする人間の手で作られたデータの種類はどう変化していますか。また、今後数年間で、どのような専門知識や評価の形が大幅に価値を高めると考えていますか？

ますます重要になっているのは、タスクの長さと、現実世界をどれだけ忠実に反映しているかという2点です。モデルの性能が向上するにつれて、有用なトレーニングデータは、より多くの判断や文脈、ミスが起こり得る機会を含む複雑なワークフローへと移っていきます。

そのため、実務に関する専門知識の価値は非常に高くなります。長年その仕事に携わってきた人は、外部からタスクを設計すると見落としがちな例外や依存関係を理解しています。また、エージェントの成果が実際にその企業の業務で通用するかどうかも判断できます。

企業向け評価は、いずれ年間1兆ドル規模の巨大市場になる可能性があると思います。エージェントを導入する企業はすべて、どの業務で機能し、どこで失敗し、どう改善すればよいかを把握する必要があります。自分の知識を有用な評価に生かせる人々が、その中心的な役割を担うでしょう。企業もモデルも業務も変化し続けるため、これは継続的に必要とされます。

専門家の中には、自分の仕事の一部をAIシステムに実行させるためのトレーニングに、事実上協力している人もいるかもしれません。この緊張関係をどう捉えていますか。また、今後3〜5年で、人間の専門知識とAIの関係はどのようになると考えていますか？

こうしたツールを使えるようになれば、人々がどれほど多くの新しい仕事を生み出すかを、私たちは過小評価していると思います。

採用を例に考えてみましょう。エージェントが初期選考のより多くを担えるようになれば、採用担当者は候補者との関係づくりや、これまで企業が接点を持てなかった人々にどうすれば関心を持ってもらえるかを考えることに、より多くの時間を使えます。役割は変化し、同じ時間でより多くのことができるようになります。

多くの職業で同じようなことが起きると考えています。今後3〜5年で、エージェントは、人々が指示を出し、文脈を伝え、評価する同僚のような存在になっていくでしょう。それに伴って、人々は新たな責任を担うようになります。

だからこそ、私は楽観的です。AIのトレーニングや評価に関わる新たな仕事がすでに生まれていますし、人々がAIを使って何を構築し、何を達成できるかを見いだすにつれて、今後さらに多くの仕事が生まれると思います。

素晴らしいインタビューをありがとうございました。専門家主導のトレーニングデータやAI評価について詳しく知りたい方、またご自身の専門知識を生かして貢献する機会を探している方は、micro1をご覧ください。