NLP Cloudの創設者＆CTOジュリアン・サリナス – インタビュー・シリーズ

ジュリアン・サリナスは、NLP Cloudの創設者＆CTOです。NLP Cloudプラットフォームは、spaCyとHuggingFace Transformersに基づく高性能のプロダクションレディなNLPモデルを提供し、NER、感情分析、テキスト分類、要約、質問回答、テキスト生成、翻訳、言語検出、文法とスペルチェック、意図分類、意味的類似性などの多様なユースケースに対応しています。

コンピューターサイエンスに興味を持つきっかけは何でしたか?

私はビジネススクールでプログラミングを始めました！実際、ビジネス自体は面白くないとすぐに気づき、技術的なスキルを持たなければプロジェクトを実現できないと感じました。

最初のプロジェクトは、音楽教師のための小さなウェブサイトでした。次に家族のためのウェブサイトを作り、Pythonを学び始めました。現在、15年間、Python/Goの開発者およびDevOpsとして働いています。

NLP Cloudの創設について語ってください。

2年前に、開発者として、機械学習モデルをプロダクションに適切にデプロイするのが難しいことに気づきました。

Hugging Face TransformersやspaCyなどのフレームワークの進歩に驚かされ、非常に高度なNLPモデルをプロジェクトで利用できるようになりました。しかし、これらのモデルをプロダクションで使用するのは別の話で、驚くことに、NLP用のNo-Opsクラウドプラットフォームは市場に出ていませんでした。

そこで、私はNLPモデルをデプロイするためのプラットフォームを作り始めました。すぐに顧客からのフィードバックが良く、フィードバックに基づいて多くの機能を追加しました（事前トレーニング済みモデル、ファインチューニング、プレイグラウンドなど）。

NLP CloudプラットフォームはGPT-3のオープンソース代替であるGPT-Jをサポートしています。GPT-Jとは何ですか?

GPT-Jは、EleutherAIという研究チームによって今年の6月にリリースされました。彼らは、GPT-3はオープンソースモデルであるべきだと考えています。強力なAIモデルであるGPT-3は、潜在的な悪用について心配するべきですが、それがオープンソースでない理由にはなりません。実際、AIモデルがオープンソースであることは、コミュニティがモデルが内部でどのように動作するかを理解し、モデルが誤った動作をしないようにするための最良の方法です。

GPT-Jは、GPT-3 Curieと同等で、約60億パラメータでトレーニングされています。

両者はほぼ交換可能です。

GPT-JはGPT-3よりも優れている点は何ですか?

GPT-3はマイクロソフトが所有しており、GPT-3 APIを通じてのみ利用できます。

しかし、このAPIは非常に高価で、制限も厳しく、APIへのアクセスを申請する必要があります。さらに、ビジネスモデルがマイクロソフトのガイドラインに準拠していない場合、アクセスがいつでも停止される可能性があります。たとえば、「オープンエンド」のテキスト（複数の段落で構成される長いテキスト）を生成することは、ポリシー違反となるためできません。

GPT-Jはオープンソースであるため、誰でもインストールして使用できます。

GPT-JをNLP Cloudに統合する際の技術的な課題について語ってください。

GPT-Jは、高いリソース消費（RAM、CPU、GPUなど）により、インストールが複雑です。GPUなしでは動作しますが、非常に遅いため実用的ではありません。

最終的に、GPT-Jを動作させるために必要なハードウェアは非常に高価でした。そこで、多くの実装の詳細に取り組んでコストを削減しました。

さらに、GPT-Jをプロダクションに適したものにするために、冗長性とフェイルオーバー戦略にも取り組みましたが、かなり課題がありました。

提供されている事前トレーニング済みAIモデルのいくつかについて説明してください。

私たちは、各ユースケースに最適な事前トレーニング済みAIモデルを選択するよう努めています。

テキスト要約の場合、最も優れたモデルはFacebookのBart Large CNNで、非常に優れた結果をもたらしますが、GPUなしではかなり遅いです。

テキスト分類の場合、FacebookのBart Large MNLI（英語分類用）とJoe DavisonのXLM Roberta Large XLNI（非英語言語用）を実装しました。両者とも高速で、非常に正確です。

質問回答の場合、DeepsetのRoberta Base Squad 2を使用しています。高速で、正確ですが、より高度な質問回答の場合はGPT-Jを使用することをお勧めします。

その他多数…

NLP Cloudの最も優れたユースケースは何ですか?

最もよく使用されるユースケースは、テキスト要約、テキスト分類、GPT-Jを使用したテキスト生成（製品説明の生成、言い換え、記事の生成など）です。

しかし、顧客の中には、非常に多様なアイデアを持っている方もいます。そういったアイデアを見て、非常に印象に残ります!

NLP Cloudについてさらに何か共有したいことがありますか?

テキスト理解とテキスト生成のためのAIが、実際の製品や内部ワークフローで使用されることが増えてきていることがわかります。

これは、NLPが純粋な研究分野ではなく、実際のビジネスユースケースで利用できるということを示しています。

NLP Cloudでは、誰でもNLPをテストし、プロダクションで使用できるようにするために、最善を尽くしてまいります。

ご質問にご協力いただき、ありがとうございました。詳しくは、NLP Cloudをご覧ください。