Iterate.ai 首席技术官兼联合创始人布莱恩·萨蒂亚纳坦 – 采访系列

布莱恩·萨蒂亚纳坦是 Iterate.ai 的首席技术官和联合创始人，Interplay 低代码平台的创造者，用于快速构建跨行业的基于人工智能的应用程序。之前，萨蒂亚纳坦在苹果公司工作，参与了各种新兴技术项目，包括 Mac 操作系统和第一代 iPhone。

是什么最初吸引你去从事人工智能技术工作？

我一直对算法驱动的学习感兴趣，并在大学时期开始使用人工智能系统。另外，我在职业生涯早期花了很多时间开发苹果公司的密码学和其他安全技术，以及为他此前共同创办的公司开发视频压缩技术。这些技术都非常依赖算法，这使得我在人工智能和机器学习方面的学习曲线变得更快。2016 年左右，我开始使用开源人工智能框架和 GPU，并意识到它们在过去五年中取得了多大的进步——不仅从算法角度，而且在分类能力方面也变得更广泛。然后，我意识到需要让这些技术更容易和更简单地被所有人使用。

您对人工智能中的认知偏见和数据偏见有一些强烈的看法，您能分享这些担忧吗？

人工智能偏见发生在工程师们让自己的观点和先入之见影响他们的人工智能训练数据集时。这样做会迅速破坏他们试图通过人工智能实现的目标。这种影响通常是下意识的，所以他们可能甚至没有意识到偏见已经渗入了他们的数据集中。没有有效的检查和平衡，数据可能仅限于工程师们倾向于考虑的那些焦点或人口统计学。即使工程师们拥有高质量和大量的数据来工作，数据集中的偏见也可能使人工智能应用程序提供的结果不正确和在许多情况下基本上是无用的。

一份 Gartner 报告估计，到 2030 年，85% 的人工智能项目将由于偏见而提供虚假结果。这是一个需要克服的巨大差距。投资于人工智能、信任人工智能并基于人工智能做出战略决策的企业如果被偏见根植于错误结论所误导，可能会面临高昂的失败成本和对其声誉的损害。随着人工智能迅速从新兴技术转变为无处不在的基石，去除偏见对于实现人工智能的真正潜力至关重要。

如何防止这些类型的偏见出现？

人工智能偏见必须被系统地和主动地检测和消除。偏见可能被硬编码到算法中。通过认知偏见可能会引入不准确性，必要的数据可能会被省略。聚合偏见是另一个风险，其中一系列小的决定会加起来，导致人工智能结果偏斜。

检测和消除人工智能偏见的所有形式需要组织使用框架、工具包、流程和政策来有效地减轻这些问题。例如，人工智能框架，如罗尔斯·罗伊斯的 Aletheia 框架和德勤的人工智能框架，通过自动执行基准，可以促进人工智能应用开发和部署中的无偏见实践。工具包，如AI Fairness 360 和 IBM Watson OpenScale，可以识别和消除机器学习模型和管道中的偏见和偏见模式。最后，测试数据集对定义的偏见度量标准的过程，加上提供治理以通过强制实践来阻止偏见的政策，使组织能够系统地检查他们的盲点并消除人工智能偏见。

您是 Iterate.ai 的首席技术官和联合创始人——它是如何开始的？

这个故事始于 2013 年，当时我们的首席执行官乔恩·诺德马克和我都在乌克兰的一个东欧加速器的董事会任职，旨在帮助当地的企业家建立和运营硅谷风格的初创公司。这些经历使我们意识到将有前途但可能不太知名的初创公司与需要创新支持的大型企业配对的想法。我们随后推出了当时称为 Iterate Studio 的项目，提供一个专门的搜索引擎，供企业根据他们正在寻找的创新能力找到初创公司合作伙伴。2015 年，公司更名为 Iterate.ai，以突出我们的基于人工智能的初创公司策划。今天，我们的 Signals 数据库根据多种因素（并使用专有的人工智能来实现这一点）索引了超过 1,570 万个初创公司技术。

2017 年，我们扩大了业务，并推出了我们的低代码应用开发平台 Interplay 的第一个版本。Interplay 提供了一个人工智能驱动的软件层，通过启用对创新技术的拖放使用，同时将软件开发速度提高了十倍，现代化了企业的传统技术堆栈。该低代码平台具有 475 个预构建组件，因此用户可以混合和匹配他们需要的技术，以快速构建应用程序。人工智能赋能是平台的核心，以及其他低代码组件，用于物联网、数据集成，甚至区块链。

Iterate.ai 是一个用于开发人工智能驱动应用程序的低代码平台——可以使用该平台构建哪些人工智能应用程序？

我们的低代码平台使得各种用例的人工智能应用程序成为可能——部署的广度是我们引以为傲的。十亿美元级的全球美容零售商 Ulta Beauty (ULTA ) 使用我们的平台仅在两周内构建了一个智能人工智能零售客服聊天机器人。相比之下，原始聊天机器人是基于关键词的，不能与传统系统无缝集成以访问客户信息或允许平滑过渡到人工支持。Ulta 的智能人工智能聊天机器人消除了这些问题，具有自然语言处理功能和识别客户“意图”的能力，以提供非常准确的响应。我们的平台使 Ulta 能够在几小时内构建聊天机器人的人工智能引擎，并快速配置、改进和完善聊天机器人的训练和响应。

在另一个例子中，Jockey 使用我们的平台实现了人工智能驱动的常见问题解答，可以自动并成功地响应相当复杂和主观的客户服务场景。我们的平台还使得全球便利店和加油站网络能够在疫情期间实现无接触加油泵，依赖于人工智能基于图像识别的客户车牌。我们的人工智能能力也正在被应用于零售场所基于摄像头的安全策略。通过图像识别，训练有素的人工智能应用程序可以识别威胁和店面外的武器存在，触发店铺锁定以保护客户，并联系当局。

实际编码要求有多小？用户需要具备多少开发技能？

在我的看法中，80/20 规则适用。80% 的应用人工智能用例已经构建并具有成熟的模型和训练数据。传统组织可以轻松使用低代码平台（我们的 Interplay 是这样的一个平台）并实现这些用例。以下是一些例子：

• 人工智能驱动的常见问题解答
• 人工智能驱动的产品查找器
• 产品推荐和捆绑
• 光学字符识别
• 视觉产品识别
• 表格数据分析：例如平均订单值、购物车分析、流失预测等
• 对象提取/检测
• 对象恒常性

上述用例可以由具有服务器端编程知识和一些基本机器学习 API 知识的工程师实现。它与视频流媒体、密码学和密钥管理技术类似，这些技术今天都通过 API 广泛使用。使用这些 API 的大多数工程师通常不知道它们的底层工作原理。

为什么低代码人工智能对扩展人工智能技术至关重要？

在应用开发中追求人工智能能力的企业如果不使用低代码，可能会迅速面临重大挑战。今天，只有 30 万名人工智能工程师，其中只有 6 万名是数据科学家。因此，开发和扩展人工智能解决方案所需的人才成本高昂，而且还在不断上涨。相比之下，低代码开发真正实现了对人工智能的民主化。使用低代码，世界上 2500 万软件开发人员，甚至没有培训的人，都可以轻松实现人工智能引擎，改进其功能，并生产和扩展有效的解决方案。

回到 Iterate.ai 的人工智能驱动的 Signals 平台，您看到的一些更有趣的趋势是什么？

我们正在看到五大创新力量的快速增长：人工智能、物联网、区块链、数据和新兴初创解决方案。这些都是非常大的市场。我们每天都能看到有关新闻、专利和新初创产品的成千上万个数据点。Interplay 平台也被设计为利用这些力量，包括预构建组件，以利用这些增长的力量。

您还想分享关于 Iterate.ai 的其他信息吗？

我认为低代码和其在构建人工智能应用程序中的作用仍然存在一些误解。人们经常看到 IT 专业人员质疑低代码策略是否能满足他们的企业级规模扩展、功能扩充和安全性要求。我的看法是，仅用于原型设计的低代码工具——但被错误地用作生产应用程序的工具——已经造成了这种疑虑。然而，正确的低代码平台绝对能够胜任构建和支持生产就绪人工智能应用程序的任务。企业应该进行尽职调查，选择合适的低代码工具，确保这些工具具有透明和彻底的安全层，并且有在企业规模上交付应用程序的成功记录。

感谢您这次精彩的采访，希望了解更多的读者可以访问 Iterate.ai。