Fireworks AIのCEO兼共同創設者Lin Qiao – インタビュー・シリーズ

Lin Qiaoは、以前MetaのPyTorchの責任者であり、Fireworks AIの共同創設者兼CEOです。Fireworks AIは、開発者向けのAIプラットフォームであり、世界をリードする生成AI研究者と提携して、最速の速度で最高のモデルを提供しています。Fireworks AIは最近、$25MのシリーズAラウンドを調達しました。

コンピューター・サイエンスに最初に惹かれたのは何ですか？

私の父は、船を一から建造する造船所で非常にシニアな機械技師でした。私は若い頃から、船の青図の正確な角度や測定を読むことを学び、それを愛しました。

私は中学校からSTEMに非常に興味がありました。数学、物理、化学のすべてを吸収しました。高校の課題の1つは、BASICプログラミングを学ぶことでした。私は蛇が自分の尾を食べるゲームをコーディングし、それ以降、コンピューター・サイエンスが私の将来の道であることを知りました。

Metaでの経験から得た主な教訓は何ですか？

大手テクノロジー企業であるMetaは、常に5年以上先を見据えています。2015年にMetaに入社したとき、私たちはAIの旅の始まりでした。CPUからGPUへの移行をしていました。私たちはAIインフラストラクチャを一から設計する必要がありました。Caffe2のようなモデルは、作成当時は画期的でしたが、AIが急速に進化したためすぐに古くなりました。PyTorchとその周りのシステムを解決策として開発しました。

PyTorchでは、開発者がAIを構築する際に直面する最大の障害について学びました。最初の課題は、低遅延で柔軟性があり、モデルをスケールアップできる安定したモデル・アーキテクチャを見つけることです。2番目の課題は、総コストの削減です。会社がモデルを拡大しようとして破産しないようにするためです。

Metaでの私の経験は、PyTorchのようなモデルやフレームワークをオープンソースにすることの重要性を教えました。革新を促進します。オープンソースの機会がなければ、PyTorchは今のようには成長しませんでした。さらに、最新の研究をすべて追跡することは不可能です。協力が必要です。

Fireworks AIを立ち上げたきっかけは何ですか？

私は20年以上テクノロジー業界に従事しており、クラウドからモバイル・アプリまで、業界レベルの変化を何度も見てきました。しかし、このAIの変化は、完全なテクトニック・リアライズメントです。私は多くの会社がこの変化に苦労しているのを見ました。誰もが速く進み、AIを優先したいと思っていましたが、インフラ、リソース、才能が不足していました。私はこのギャップを解決できることを実感しました。

私はFireworks AIを立ち上げ、PyTorchでの素晴らしい成果を拡大するためにしました。名前もPyTorchからインスピレーションを得ました！PyTorchは火を抱えるトーチですが、火をすべての場所に広げたいのです。したがって、Fireworksです。

私は常にテクノロジーを民主化し、開発者がリソースに関係なく革新できるようにすることに情熱を傾けてきました。だから、私たちは開発者がビジョンを実現できるように、使いやすいインターフェースと強力なサポート・システムを提供しています。

開発者中心のAIとは何ですか？

開発者中心のAIとは、AI開発者のニーズを優先することです。例えば、開発者が効率的で自立的に働けるように、ツール、コミュニティ、プロセスを作成することです。

Fireworksのような開発者中心のAIプラットフォームは、既存のワークフローとテクノロジー・スタックに統合されます。開発者が実験し、間違いを犯し、改善できるようにします。フィードバックを奨励します。開発者自身が何が必要かを理解しているからです。最後に、それはプラットフォームだけではありません。コラボレーションする開発者のコミュニティです。開発者がAIの可能性を拡大できるコミュニティです。

Fireworks AIのプラットフォームのユニークな特徴と利点について説明してください。

私たちのプラットフォームのアプローチはユニークですが、最も優れた機能は次のとおりです。

効率的な推論 – 私たちはFireworks AIを効率と速度に優れたように設計しました。私たちのプラットフォームを使用する開発者は、LLMアプリケーションを可能な限り低遅延で低コストで実行できます。最新のモデルとサービス最適化技術を使用してこれを実現します。プロンプト・キャッシング、適応型シャーディング、量子化、連続バッチング、FireAttentionなどです。

LoRA調整モデルへの安価なサポート – 私たちは、ベース・モデル上的のマルチ・テナンシーを介したLoRA調整モデルの安価なサービスを提供しています。開発者は、同じモデル上でさまざまなユースケースやバリエーションを実験できます。コストを大幅に削減できます。

シンプルなインターフェースとAPI – 私たちのインターフェースとAPIは、開発者が簡単に統合できるように設計されています。私たちのAPIは、OpenAIと互換性があり、移行が容易です。

オフ・ザ・シェルフ・モデルとファイン・チューニング・モデル – 私たちは、100以上の事前トレーニング済みモデルを提供しています。開発者は、これらのモデルをすぐに使用できます。LLM、画像生成モデル、埋め込みモデルなどをカバーしています。開発者は、独自のカスタム・モデルをホストして提供することもできます。私たちは、開発者が独自のデータでこれらのカスタム・モデルをファイン・チューニングできるように、セルフ・サービス・ファイン・チューニング・サービスを提供しています。

コミュニティ・コラボレーション – 私たちは、オープンソースのエチオスであるコミュニティ・コラボレーションを信じています。私たちのプラットフォームは、開発者がファイン・チューニングしたモデルを共有し、AIアセットと知識のバンクに貢献することを奨励しています。すべての開発者が、集団的な専門知識の成長から利益を得ます。

モデルの並列性とデータの並列性のハイブリッド・アプローチについて説明してください。

マシン・ラーニング・モデルの並列化は、モデルのトレーニングと推論の効率と速度を向上させ、開発者が単一のGPUで処理できない大きなモデルを扱えるようにします。

モデル並列性は、モデルを複数のパートに分割し、各パートを別々のプロセッサでトレーニングすることを意味します。一方、データ並列性は、データセットをサブセットに分割し、各サブセットでモデルを同時にトレーニングすることを意味します。ハイブリッド・アプローチは、これらの2つの方法を組み合わせます。モデルをパートに分割し、各パートを別々のデータのサブセットでトレーニングします。効率、スケーラビリティ、柔軟性が向上します。

Fireworks AIは20,000以上の開発者によって使用されており、現在、1日あたり60億トークンを提供しています。運用をこのレベルに拡大する上で直面した課題と、それらをどのように克服したかについて説明してください。

Fireworks AIを設立してから、多くの大きな課題に直面しました。

当初、顧客は、消費者、プロサマー、または他の開発者向けのアプリケーションを構築しているため、非常に低遅延のサポートを求めていました。次に、顧客のアプリケーションが急速に拡大し始めたとき、彼らは通常のスケールアップに伴うコストを負担できなくなりました。そこで、総コストの削減を支援しました。次に、顧客はOpenAIからOSSモデルへの移行を求め、OpenAIと同等またはそれ以上の品質を提供するように求めました。私たちはそれも実現しました。

製品の進化の各ステップは、私たちに多くの課題をもたらしましたが、顧客のニーズがFireworksを形作りました。現在、Fireworksは、低コストで最速の推論エンジンです。さらに、優れたモデルを選択するためのアウト・オブ・ザ・ボックスのモデルと、開発者が独自のモデルを作成するためのファイン・チューニング・サービスを提供しています。

AIとマシン・ラーニングの急速な進歩により、倫理的な考慮が重要になっています。Fireworks AIは、偏り、プライバシー、AIの倫理的な使用に関する懸念に対処する方法についてはどうですか？

私は2人のティーンエイジャーの娘を持っています。彼女たちは、ChatGPTのようなジェネレーティブAIアプリをよく使います。母親として、彼女たちが誤解を招くコンテンツや不適切なコンテンツを見つけることを心配しています。業界は、コンテンツの安全性という重大な問題に対処しようとしています。Metaは、Purple Llamaプロジェクトで多くのことを行っています。Stability AIの新しいSD3モードも素晴らしいです。これらの企業は、新しいLlama3とSD3モデルにフィルタリングの複数のレイヤーを導入することで、安全性を高めています。入力と出力のセーフガード・モデルであるLlama Guardは、ある程度の使用を得ていますが、他のLLMと比較して採用率はまだ低いです。業界全体としては、コンテンツの安全性とAIの倫理性を優先するにはまだ長い道のりがあります。

私たちは、プライバシーとセキュリティを心から大切にしています。HIPAAとSOC2に準拠しています。安全なVPCとVPN接続を提供しています。企業は、Fireworksに自社のプライベート・データとモデルを信頼してビジネスを構築しています。

AIの進化についてのあなたのビジョンは何ですか？

AlphaGoが、チェスを独学で学んだように、ジェネレーティブAIアプリケーションがより自律性を持つようになるでしょう。アプリは、自動的にリクエストを正しいエージェントまたはAPIにルーティングし、正しい出力を取得するまでコースを修正します。1つの関数呼び出しモデルが他のモデルからポーリングするコントローラーではなく、問題を解決するために自律的に調整されたエージェントが協力して動作するようになるでしょう。

Fireworksの最速の推論、関数呼び出しモデル、ファイン・チューニング・サービスが、この現実を実現するための道を切り開いています。ここで、革新的な開発者がそれを実現する番です。

素晴らしいインタビュー、ありがとうございました。読者がもっと知りたい場合は、Fireworks AIを訪れてください。