インタビュー
ルドビック・ラルズール、Mipsologyの創設者兼CEO – インタビュー・シリーズ
Unite.AI を Google の優先ソースに追加
ルドビック・ラルズールは、Mipsologyの創設者兼CEOです。Mipsologyは、ディープラーニング推論の最先端アクセラレーションに特化した革新的なスタートアップです。彼らは、推論ニューラルネットワークの計算を加速し、ハードウェアアクセラレータをAIユーザーに隠す技術を開発しました。MipsologyのZebraは、最初の商用アクセラレータであり、高性能と使いやすさを提供するためにsuchテクノロジーをカプセル化しています。
あなたがAIとマイクロチップに興味を持ったのは何ですか？
私は、約20年間、以前の会社EVEで、特定の種類のスーパーコンピューターの設計に従事していました。その後、2012年にSynopsysに買収されました。あのコンピュータは、ASICエミュレータと呼ばれ、世界中の多くの会社でASICを設計するために使用されていました。私はその仕事の複雑さと多様性をとても楽しみました。成功するには、(a) 電子工学、ソフトウェア、複雑なアルゴリズム、チップ設計、チップアーキテクチャ、電力など、深いテクノロジーを理解する必要があります。 (b) 顧客のニーズを2、3年先まで予測する必要があります。 (c)継続的にイノベーションする必要があります。 (d) スタートアップとして、限られたリソースで競争に勝つ必要があります。 20年間の成功の後、新しい挑戦を探していました。 そのとき、AIが再び注目され始めました。 AlexNetは画像の理解に大きな飛躍をしました。 (今考えると、それはまだ初期段階でした。) ディープラーニングは新しいものでしたが、約束のあるものでした。 (誰が覚えているでしょうか？ 簡単なネットワークで結果を得るのに何日もかかったことを。) 私はそれをとても「楽しい」と感じましたが、多くの課題があることも認識しました。
Mipsologyを立ち上げたきっかけは何ですか？
私は「インスピレーション」という言葉を使うかどうか分かりません。最初は「何か異なるもの、より良いものを作ることができるか？」という考えでした。AIの人々が何を好み、何をするかという仮定から始め、次の数年間はそれに基づいてより良いソリューションを見つけることに費やしました。私は、インスピレーションの代わりに、私が働く人々が何を作るかに対して、ポジティブな態度で競争することが好きだと言います。 それが強いチームを作り、他の人々が解決できない問題を解決できるようにします。
MipsologyはFPGAボードを使用しています。FPGAとは何ですか？
FPGAは、ハードウェアレベルでプログラムできる電子部品です。数百万個のレゴブロックを想像してください。各ブロックは、単純な演算、例えば値を保持したり、加算したりすることができます。 これらのブロックを組み合わせることで、チップが製造された後に特定の動作を作成することができます。 これは、GPUやほとんどのチップとは逆で、設計時に特定の機能に固定されており、後から変更することができません。
一部のチップ、例えばCPUやGPUはプログラムできるものの、FPGAほど並列にはなりません。FPGAは、特定の瞬間において数百万の単純な演算を実行し、1秒間に6〜7億回実行することができます。 プログラム可能なため、異なる問題に対応するために何を実行するかをいつでも変更することができます。 そのため、並列処理能力は、さまざまな問題に対して効果的に機能することができます。 FPGAは、すでにほとんどの場所にあります。モバイルフォンのベースステーション、ネットワーク、衛星、車などです。ただし、一般的には、ラップトップの中にあるCPUほど目に触れることはありません。
FPGAボードがGPUよりも優れている点は何ですか？
FPGAは、多くの点で優れています。ここでは、重要な点を2つに絞って説明します。
GPUは、主にゲームの画像レンダリングのために設計されています。AIの計算と似た演算があるため、一部の計算に適していますが、ゲームに主に使われているため、ニューラルネットワークに適さない制約があります。
GPUのプログラミングは、2〜3年前に決定された命令に限定されています。問題は、ニューラルネットワークがASICの設計よりも速く進化しているため、将来を予測することは簡単ではありません。詳細が結果に大きな影響を与えるため、パフォーマンスを予測することは簡単ではありません。 一方、FPGAはハードウェアレベルでプログラムできるため、AIの進歩に簡単に対応できます。 これにより、より優れた製品を提供でき、顧客のニーズに応えることができ、次のシリコン世代を待つ必要がありません。
さらに、GPUは消費者向け製品として設計されており、意図的に寿命が短く設定されています。 ゲーム会社は、新しいGPUを数年後に売りたいと考えるためです。 これは、長年にわたって信頼性が必要な電子システムではうまく機能しません。 FPGAは、頑丈で、24時間365日、長年にわたって使用するために設計されています。
FPGAの他のよく知られた利点には以下のものがあります：
- ネットワーキングやビデオ処理などの特定の分野に適した多くのオプションがあります
- データセンター、エッジ、組み込みシステムなど、さまざまな環境で同等のパフォーマンスを発揮します
- 特別な冷却（大きなGPUのように水冷など）が必要ありません
FPGAの主な欠点は、プログラミングが難しいことです。特定の知識が必要です。FPGAを販売する会社は、複雑さのギャップを埋めるために多大な努力を払っていますが、まだCPUほど簡単ではありません。GPUも簡単ではありませんが、AIのプログラミングを隠すソフトウェアにより、知識が必要ありません。 これが、Mipsologyが最初に解決した問題です。FPGAをプログラムしたり、FPGAの知識が必要なくなりました。
FPGAボードには現在、どのような制限がありますか？
一部のFPGAボードは、GPUボードと同様に、コンピュータのPCIeスロットに挿入できます。寿命について前述したように、もう1つの利点は、GPUよりも低い電力消費です。もう1つの知られていない利点は、FPGAボードの選択肢がGPUボードよりも多いため、さまざまな市場でさまざまなボードが利用できることです。 これは、低コストでニューラルネットワークを計算するための多くの可能性があることを意味します。 GPUは限られているため、データセンターでは使用できますが、ほとんどの場合、他の場所では使用できません。
MipsologyのZebraについて説明してください。
AIとGPUに精通している人にとって、ZebraはFPGAに対するCuda/CuDNNのようなものです。Zebraは、PyTorchやTensorFlowなどの通常のフレームワークの背後でFPGAを完全に隠すソフトウェアスタックです。 画像とビデオの推論を主にターゲットにしています。 Zebraは、通常浮動小数点でトレーニングされたニューラルネットワークから開始し、ユーザーの手動作業や独自のツールなしで、FPGAベースのカードで実行するようにします。 これは、FPGAボードを挿入し、ドライバーをロードし、Zebra環境をソースし、CPUまたはGPUで実行しているのと同じ推論アプリケーションを起動するだけです。 私たちには、精度を維持する独自の量子化があり、パフォーマンスはすぐに利用可能です。 ユーザーが独自のツールを学習する必要はなく、高いスループットや低遅延を得るために何時間もエンジニアリングする必要がありません。 これは、遷移が素早く、コストと市場投入までの時間が短縮されることを意味します。
Zebraはどのようなアプリケーションに最適化されていますか？
Zebraは、画像やビデオを主に対象として、ニューラルネットワークの計算を加速する汎用的なエンジンです。画像やビデオの計算需要は大きいためです。さまざまな市場からリクエストがありますが、ニューラルネットワークの計算という点ではすべて似ています。すべて、クラス分類、セグメンテーション、スーパーリゾリューション、ボディポジショニングなどを必要とします。
ZebraはFPGA上で実行されるため、どのようなボードでも使用できます。 一部のボードは、高スループットを持っており、通常、データセンターで使用されます。 他のボードは、エッジまたは組み込みシステムで使用するのに適しています。 私たちのビジョンは、FPGAが収まる場所ならどこでも、ユーザーがZebraを使用してニューラルネットワークの計算をすぐに加速できるようにすることです。 また、GPUまたはCPUを使用している場合は、Zebraがそれらを置き換えてAIインフラストラクチャのコストを削減できることを示しています。 私たちが話をしているほとんどの会社は、同じ問題を抱えています。 AIベースのアプリケーションをより多く展開できるのですが、コストが制限しているのです。
会社がZebraを使用したい場合は、どのようなプロセスになりますか？
簡単に、support@mipsology.comに連絡してください。私たちがあなたをサポートします。
Mipsologyについてさらに何か共有したいことがありますか？
私たちは、ZebraソリューションについてAIコミュニティから得たフィードバックに非常に励まされています。特に、現在市場で最も優れたアクセラレータの1つであると言われています。数ヶ月で、Xilinx、Dell、Western Digital (WDC ) 、Avnet、TUL、Advantechなど、多くの関心を持つパートナーと成長するエコシステムを構築しています。
この革新的なテクノロジーについて学ぶことはとても楽しかったです。詳しく知りたい読者は、Mipsologyを訪問してください。
