NLP Cloud创始人兼CTO朱利安·萨利纳斯 – 采访系列

朱利安·萨利纳斯是NLP Cloud的创始人兼CTO。NLP Cloud平台提供高性能的生产就绪NLP模型，基于spaCy和HuggingFace变换器，用于多种用例，包括命名实体识别、情感分析、文本分类、摘要、问答、文本生成、翻译、语言检测、语法和拼写纠正、意图分类和语义相似性。

最初是什么让你对计算机科学感兴趣的？

我在商学院开始编程！我知道这听起来很惊讶。实际上，我很快意识到商业本身很枯燥，如果我没有技术技能来实现我的项目，我很快就会受到限制。

当时的第一个项目是一个小网站，用于我的音乐老师，接着是另一个用于我的家庭，之后我开始学习Python… 等等。现在，我已经是Python/Go开发者和DevOps了15年。

你能分享一下NLP Cloud的创立故事吗？

一切从2年前开始，当时我意识到，作为一名开发者，部署机器学习模型到生产环境中非常困难。

我对Hugging Face Transformers和spaCy等框架的进步感到惊讶，我能够在我的项目中利用非常先进的NLP模型。但是使用这些模型在生产环境中却是另一回事，而且令人惊讶的是，我找不到任何有趣的No-Ops云平台用于NLP。

所以，我决定创建自己的NLP模型部署平台。很快，我们收到了很好的客户反馈，我们根据这些反馈添加了很多功能（预训练模型、微调、游乐场…）。

NLP Cloud平台支持GPT-3的开源替代品GPT-J。什么是GPT-J？

GPT-J由一组名为EleutherAI的研究人员在今年六月发布。他们认为GPT-3应该是一个开源模型，就像其前身（GPT和GPT-2）一样。他们声称，即使我们应该担心像GPT这样的强大AI模型的潜在滥用，但这并不是不让这些模型开源的理由。相反：他们认为，如果AI模型保持开源，这是社区了解这些模型如何在底层工作的最佳方式，然后确保这些模型不会表现出错误的行为（厌女、种族主义…）.

GPT-J是GPT-3 Curie的直接等价物，两者都在大约6亿参数上进行了训练。

两者几乎可以互换使用。

为什么GPT-J是GPT-3的更好替代品？

GPT-3属于微软，人们使用它的唯一方式是通过官方的GPT-3 API。

但是这个API非常昂贵，并且非常限制：你需要请求API访问权限，即使你的应用程序获得了接受，你的访问权限也可能在任何时候被关闭，如果他们认为你的商业模式不符合他们的指南。例如，你不能生成“开放式”文本（由多个段落组成的长文本），因为这违反了他们的政策。

在GPT-J中没有这样的限制，因为它是开源的，任何人都可以安装和使用它。

将GPT-J集成到NLP Cloud上遇到的技术挑战是什么？

GPT-J很难安装，因为它需要大量资源（RAM、CPU、GPU…）。它可以在没有GPU的情况下运行，但速度非常慢，几乎无法使用。

最终，运行GPT-J所需的硬件非常昂贵，因此我们需要在许多实现细节上进行工作，以降低成本。

另外，为了确保GPT-J在NLP Cloud上的高可用性，并使其适合生产，我们需要在GPT-J的冗余和故障转移策略上进行工作，这可能非常具有挑战性。

你能讨论一下提供的预训练AI模型吗？

我们正在尽力选择每个用例的最佳预训练AI模型。

对于文本摘要，我们认为最好的一个是Facebook的Bart Large CNN，它可以产生很好的结果，但在没有GPU的情况下可能会相当慢。

对于文本分类，我们实现了Facebook的Bart Large MNLI（用于英语分类）和Joe Davison的XLM Roberta Large XLNI（用于非英语语言）。两者都很快且很准确。

对于问答，我们使用Deepset的Roberta Base Squad 2。它很快且准确，但对于更高级的问答，你可能需要使用GPT-J。

还有很多其他的！

NLP Cloud的最佳用例是什么？

使用最多的用例似乎是文本摘要、文本分类和使用GPT-J的文本生成，用于产品描述生成、改述、文章生成…

但是我们在客户中看到的用例非常多样化，看到这么多伟大的想法出现真是令人印象深刻！

你还想分享关于NLP Cloud的其他信息吗？

似乎人工智能用于文本理解和文本生成终于被用在实际产品或内部工作流中，越来越多的公司都在使用它。

这很好地表明NLP不再仅仅是一个纯研究领域，而是有真正的商业用例可以利用NLP。

在NLP Cloud，我们将继续尽力使任何人都能轻松地测试和使用NLP模型。

感谢这次精彩的采访，希望了解更多的读者可以访问NLP Cloud。