访谈
唐尼·怀特,Satisfi Labs 的 CEO 和联合创始人 – 采访系列

2016 年,Satisfi Labs 成立,是一家领先的对话式 AI 公司。早期的成功来自其与纽约大都会队、梅西百货和美国网球公开赛的合作,实现了网站上常常无法获得的信息的轻松访问。
唐尼在彭博社工作了 15 年,然后进入创业世界,并拥有康奈尔大学的 MBA 学位和巴鲁克学院的学士学位。在唐尼的领导下,Satisfi Labs 在体育、娱乐和旅游行业取得了显著的增长,获得了谷歌、美国职业棒球大联盟和红灯管理公司的投资。
您在彭博社工作了 14 年,当时您第一次感到创业的冲动。为什么突然之间,创业成为您的目标?
在大学三年级时,我申请了一份在彭博社的前台接待员工作。一旦我进入了公司,我告诉我的同事,如果他们愿意教我,我可以快速学习。到我大学毕业时,我已经成为了一名全职员工,并将所有的课程改为夜间课程,以便我可以同时做两件事。从那时起,我很幸运地处于一个功绩制的环境中,并多次被提升。25 岁时,我已经在管理自己的部门。从那里,我转入区域管理,然后是产品开发,最后我负责整个美洲地区的销售。到 2013 年,我开始思考我是否可以做一些更大的事情。我参加了几家年轻科技公司的面试,一位创始人对我说:“我们不知道你是否擅长还是彭博社擅长。”那时我就知道我必须做出改变,六个月后我成为了我的第一家创业公司 Datahug 的销售副总裁。后来,我被一群投资者招募,他们想颠覆 Yelp。虽然 Yelp 仍然很好,但在 2016 年,我们对一个新的愿景达成一致,我与同样的投资者共同创立了 Satisfi Labs。
您能否分享 Satisfi Labs 的创立故事?
我和 Satisfi 的现任 CTO 和联合创始人兰迪一起去看了一场棒球比赛,当时我听说他们有一种特色食品——棒棒糖上的培根。我们走遍了体育场的周围,询问工作人员关于它的位置,但找不到它。结果它被藏在体育场的一端,这让我意识到如果可以直接通过聊天与球队联系就更方便了。这就是我们的第一个想法。兰迪和我都来自金融和算法交易的背景,这使我们能够开发自己的 NLP,以满足特定领域的询问。最初的想法是建立单个的 bot,每个 bot 都是某个领域的专家,特别是那些在网站上不容易访问的知识。我们的系统将有一个“指挥家”可以在需要时调用每个 bot。这就是我们今天仍在使用的原始系统架构。
Satisfi Labs 设计了自己的 NLP 引擎,并即将发布新闻稿时,OpenAI 的 ChatGPT 发布打乱了你们的技术栈。您能否讨论那段时间以及 ChatGPT 如何迫使 Satisfi Labs 转变业务?
我们计划在 2022 年 12 月 6 日发布新闻稿,宣布我们的基于上下文的 NLP 升级。但在 2022 年 11 月 30 日,OpenAI 宣布了 ChatGPT。ChatGPT 的宣布不仅改变了我们的路线图,也改变了世界。最初,我们和其他人一样,正在努力了解 ChatGPT 的能力和局限性,并理解这对我们意味着什么。我们很快意识到我们的上下文 NLP 系统并不与 ChatGPT 竞争,而是可以增强 LLM 的体验。这导致我们迅速决定成为 OpenAI 的企业合作伙伴。由于我们的系统最初是为了理解和回答问题而设计的,我们能够将“bot 指挥家”系统设计与七年的意图数据结合起来,升级系统以集成 LLM。
Satisfi Labs最近推出了一个专利的上下文 LLM 响应系统,这是什么?
今年七月,我们推出了专利的上下文 LLM 响应系统。该系统将我们专利的上下文响应系统的力量与大型语言模型的能力相结合,以加强整个答案引擎系统。新的上下文 LLM 技术在整个平台中集成了大型语言模型的能力,从改进意图路由到答案生成和意图索引,这也驱动了其独特的报告功能。该平台通过利用 LLM(如 GPT-4)的力量,将对话式 AI 超越传统的聊天机器人。我们的平台允许品牌使用生成性 AI 答案或预先编写的答案来回答问题,具体取决于对响应的控制需求。
您能否讨论大多数公司网站和 LLM 平台在提供品牌化答案方面的当前脱节?
ChatGPT 被训练为理解广泛的信息,因此缺乏回答行业特定问题所需的细粒度训练水平。另外,LLM 提供的答案的准确性仅取决于提供的数据。当您使用 ChatGPT 时,它会从互联网上获取数据,这些数据可能不准确。ChatGPT 不会优先考虑品牌的数据而不是其他数据。我们已经为各个行业服务了七年,获得了对每天客户提出的数百万个问题的宝贵见解。这使我们能够了解如何用更大的上下文来调整系统,并提供强大的和细粒度的意图报告功能,这在大型语言模型兴起的背景下至关重要。虽然 LLM 在理解意图和生成答案方面很有效,但它们无法报告所提出的问题。使用多年的广泛意图数据,我们已经通过意图索引系统高效地创建了标准化的报告。
语言学家在增强 LLM 技术的能力方面扮演什么角色?
随着这一新技术的出现,提示工程师的角色出现了,需要一个人设计和完善提示以从 AI 中获取特定的响应。语言学家对语言结构(如句法和语义)有很好的理解。我们最成功的 AI 工程师之一有语言学背景,这使她能够找到新的和细致入微的方法来提示 AI。提示中微小的变化会对生成的答案的准确性和效率产生深远的影响,这在我们处理多个客户的数百万个问题时至关重要。
后端的细化是什么样的?
我们有自己的专有数据模型来控制 LLM。这使我们能够建立自己的“围栏”来控制 LLM,而不是搜索“围栏”。其次,我们可以利用其他平台使用的工具和功能来支持它们。通过对我们的平台进行微调训练数据和使用强化学习(RL),我们可以减轻错误信息的风险。微调与查询知识库以添加特定事实不同,它会创建一个新的 LLM 版本,该版本是在此额外知识的基础上训练的。另一方面,RL 会训练一个代理以使用人类反馈,并学习如何回答问题的策略。这在构建小型模型方面已经被证明是成功的,这些模型可以成为特定任务的专家。
您能否讨论将新客户纳入并集成对话式 AI 解决方案的流程?
由于我们专注于目的地和体验(如体育、娱乐和旅游),新客户可以从社区中已经存在的客户中受益,使得纳入新客户变得非常简单。新客户确定他们最当前的数据源(如网站、员工手册、博客等),我们实时训练系统。由于我们与同一行业的数百家客户合作,我们的团队可以快速推荐哪些答案最适合预先编写的响应或生成的答案。另外,我们设置了引导流程(如我们的动态食品和饮料查找器),以便客户无需处理机器人构建器即可使用。
Satisfi Labs 目前正在与体育队和公司密切合作,您对公司未来的愿景是什么?
我们设想一个未来,更多的品牌将希望控制更多的聊天体验方面。这将导致对我们的系统提供更多开发人员级别的访问需求。对于品牌来说,雇佣开发人员来构建自己的对话式 AI 系统没有意义,因为所需的专业知识将很稀缺且昂贵。然而,有了我们的系统为后端提供支持,他们的开发人员可以专注于客户体验和旅程,通过以下方式获得更大的控制权:控制提示,连接专有数据以实现更大的个性化,并管理聊天 UI 以满足特定的用户需求。Satisfi Labs 将成为品牌对话式体验的技术骨干。
感谢这次精彩的采访,希望了解更多的读者可以访问 Satisfi Labs。












