艾莉亚人工智能公司的联合创始人兼首席执行官文纳伊·库马尔·桑卡拉普 – 采访系列

文纳伊·库马尔·桑卡拉普是艾莉亚人工智能公司（Arya.ai）的联合创始人兼首席执行官，该公司为银行、保险公司和金融服务机构提供“人工智能云”平台，以帮助他们找到合适的人工智能API、专家人工智能解决方案和全面的人工智能治理工具，从而部署可信赖和自学习的人工智能引擎。

您的背景是数学、物理、化学和机械工程，能否讨论您转向计算机科学和人工智能的经历?

在印度理工学院孟买分校，我们有一个双学位课程，提供5年课程来同时学习工学学士和工学硕士。我学习机械工程，并专攻计算机辅助设计和制造，其中计算机科学是我们课程的一部分。对于我们的研究生研究，我选择了深度学习。虽然我最初使用深度学习来构建一个用于连续制造的故障预测框架，但我完成了关于使用卷积神经网络进行剩余使用寿命预测的研究。这大约是在2013年或2014年。

您在大学期间就创立了Arya.ai，能否分享这个创业公司的起源故事?

作为学术研究的一部分，我们必须花3-4个月的时间进行文献综述，以创建一个关于我们感兴趣的主题的详细研究，包括已经完成的工作范围和可能的研究重点。在2012年或2013年，我们使用的工具非常基本。像谷歌学术和Scopus这样的搜索引擎只是进行关键词搜索。很难理解可用的知识量。我认为这个问题只会变得更糟。在2013年，我认为每分钟至少有30多篇论文被发表。今天，这个数字至少是当时的10倍到20倍。

我们想构建一个像教授一样的人工智能助手，帮助研究人员建议研究主题，找到最新的论文，并为STEM研究提供任何帮助。凭借我们在深度学习方面的经验，我们认为我们可以解决这个问题。在2013年，我们开始了Arya.ai的创业之旅，最初的团队有3人，到2014年扩展到7人，当时我仍在大学里。

我们的第一个产品版本是通过爬取超过3000万篇论文和摘要来构建的。我们使用当时最先进的深度学习技术来构建一个用于STEM研究的人工智能助手和上下文搜索引擎。但是，当我们向一些教授和同行展示了人工智能助手时，我们意识到我们太早了。对话流程有限，用户期望自由流畅和连续的对话。那个时候（2014年或2015年）的期望非常不切实际，尽管它能够回答复杂的问题。

之后，我们将研究成果应用于机器学习工具，旨在为研究人员和企业提供一个工作台，以便实现深度学习的民主化。但是，到2016年，很少有数据科学家使用深度学习。因此，我们开始将其应用于一个垂直领域，即金融服务机构（FSI）。我们知道这会有效，因为虽然大型玩家试图赢得水平市场，垂直化可以为创业公司创造一个大型独特销售点（USP）。这次我们是对的！

我们正在为银行、保险公司和金融服务机构构建人工智能云，拥有最专业的垂直层，以便提供可扩展和负责的人工智能解决方案。

人工智能的“黑盒”问题在金融领域有多大影响?

非常重要！只有30%的金融机构能够充分利用人工智能。一方面是可访问性，另一方面是缺乏对人工智能的信任和审计。一些地理区域的法规已经明确规定了使用人工智能的法律性质，特别是对于低、中和高敏感度的使用案例。例如，欧盟法律要求使用透明模型进行高风险使用案例。许多金融机构的使用案例都是高风险的，因此需要使用白盒模型。

人工智能解决方案的炒作周期正在平息，因为早期的经验使人们意识到使用黑盒人工智能的影响，例如人工智能的失败、监控不力以及与法律和风险管理人员的挑战，由于审计的局限性而导致这些问题。

您能否讨论机器学习监控和机器学习可观察性之间的区别?

监控工具的工作只是监控和报警。而可观察性工具的工作不仅是监控和报告，还要提供足够的证据来找出故障或预测故障的原因。

在人工智能和机器学习中，这些工具起着至关重要的作用。虽然这些工具可以提供所需的监控和报告功能，但机器学习可观察性的范围更广。

为什么需要特定行业的平台来进行机器学习可观察性，而不是通用平台?

通用平台是为每个人和每个用例设计的，尽管它们可以为开发人员、数据科学家等用户提供复杂的功能，但它们为利益相关者带来了挑战。这些平台通常需要数据科学专家来使用，并需要额外的解决方案或产品层来使模型对最终用户可用，包括可解释性、审计、场景、人工在循环、反馈标签、审计、工具特定管道等。

这就是特定行业的人工智能平台的优势。特定行业的人工智能平台拥有整个工作流程来解决目标客户的需求或用例，并且是从端到端开发的，包括了解业务需求、监控产品性能等。每个行业都有特定的障碍，例如监管和合规框架、数据隐私要求、审计和控制要求等。特定行业的人工智能平台和产品加速了人工智能的采用，缩短了开发时间，并降低了人工智能部署的风险。此外，它们还可以汇集行业的人工智能专业知识，帮助提高人工智能的接受度、推动合规努力，并找到解决伦理、信任和声誉问题的共同方法。

您能否分享一些关于Arya.ai提供的机器学习可观察性平台的细节?

我们已经在金融服务机构中工作了6多年，自2016年以来。这使我们早期接触到了在金融服务机构中部署复杂人工智能的独特挑战。其中一个重要的挑战是“人工智能接受度”。与其他垂直领域不同，使用任何软件（包括人工智能解决方案）都有许多法规，数据隐私、伦理和最重要的财务影响。为了解决这些挑战，我们不得不不断发明和添加新的可解释性、审计、使用风险和问责层到我们的解决方案中，例如索赔处理、承保、欺诈监控等。随着时间的推移，我们为金融服务行业的各个利益相关者创建了一个可接受和可扩展的机器学习可观察性框架。

我们现在以AryaXAI（xai.arya.ai）的形式发布该框架的DIY版本。任何机器学习或业务团队都可以使用AryaXAI创建一个全面的人工智能治理，用于关键任务用例。该平台为人工智能解决方案提供透明度和可审计性，使其对所有利益相关者都可接受。AryaXAI使人工智能更安全、更可接受，适用于关键任务用例，提供可靠和准确的可解释性，提供支持监管尽职调查的证据，通过提供高级政策控制来管理人工智能不确定性，并通过监控数据或模型漂移和提供根因分析来确保生产的一致性。

AryaXAI还作为一个共同的工作流程，提供所有利益相关者都可以接受的见解，包括数据科学、IT、风险、运营和合规团队，使人工智能/机器学习模型的部署和维护变得无缝和无杂乱。

另一个解决方案是增强机器学习模型的上下文政策实施的平台，能否描述这是什么?

由于特征和预测的庞大数量，监控和控制生产中的机器学习模型变得困难。另外，模型行为的不确定性使得管理和标准化治理、风险和合规变得具有挑战性。这些模型的故障可能导致声誉和财务损失。

AryaXAI提供“政策/风险控制”，这是一个关键组件，通过执行人工智能政策来保护业务和道德利益。用户可以轻松地添加、编辑或修改政策来管理政策控制。这使得跨职能团队能够定义政策防护栏，以确保持续的风险评估，保护业务免受人工智能不确定性的影响。

这些产品的一些用例例子是什么?

AryaXAI可以在各个行业的各个关键任务流程中实施。最常见的例子是：

金融服务： 在一个监管严格的环境中，AryaXAI使金融服务机构能够轻松地满足监管要求并收集管理风险和确保合规所需的证据。

• 信用授信为安全/不安全贷款
• 识别欺诈/可疑交易
• 审计
• 客户生命周期管理
• 信用决策

自动驾驶汽车： 自动驾驶汽车需要遵守监管严格性、运营安全性和实时决策的可解释性。AryaXAI使我们能够了解人工智能系统如何与车辆交互

• 决策分析
• 自动驾驶汽车操作
• 车辆健康数据
• 监控人工智能驾驶系统

医疗保健： AryaXAI为医疗、技术、法律和患者提供了更深入的见解。从药物发现到制造、销售和营销，AryaXAI促进了多学科的合作

• 药物发现
• 临床研究
• 临床试验数据验证
• 更高质量的护理

您对金融领域机器学习的未来有什么展望?

在过去的十年中，人工智能已经经历了巨大的教育和营销。我们已经看到了多个炒作周期。在2011年或2012年，深度学习赢得了ImageNet比赛，之后是图像/文本分类、语音识别、自动驾驶汽车、生成人工智能和目前的大型语言模型。每个炒作周期之间的峰值和大规模使用之间的差距正在减小，因为产品、需求和资金的迭代正在进行。

已经发生了三件事情：

1. 我认为我们已经破解了人工智能解决方案的规模化框架，至少是由一些专家完成的。 例如，Open AI目前是一个非盈利组织，但他们预计在两年内实现10亿美元的收入。虽然并非每家人工智能公司都能实现类似的规模，但可扩展性的模板已经更明确了。
2. 理想的人工智能解决方案的定义几乎已经明确： 与早期不同，产品是通过迭代实验为每个用例和每个组织构建的，利益相关者越来越多地被教育以了解他们从人工智能解决方案中需要什么。
3. 法规正在赶上： 围绕数据隐私和人工智能使用的明确法规的需求正在获得巨大的关注。管理机构和监管机构能够或正在发布必要的框架，以确保人工智能的安全、道德和负责任的使用。

接下来会发生什么？

“模型即服务”（MaaS）的爆发：

我们将看到对“模型即服务”提案的需求增加，不仅是在水平方向上，也是在垂直方向上。虽然“OpenAI”代表了一个好的“水平MaaS”例子，但Arya.ai是垂直“MaaS”的一个例子。凭借对部署和数据集的经验，Arya.ai收集了关键的垂直数据集，这些数据集被用来训练模型，并以即插即用或预训练模型的形式提供。

垂直化是新的水平化： 我们已经在“云采用”中看到了这种趋势。虽然水平云玩家专注于“面向所有人的平台”，但垂直玩家专注于最终用户的需求，并将其提供为专门的产品层。这也适用于MaaS产品。

XAI和人工智能治理将成为企业的常态： 根据监管的敏感性，每个垂直领域都将实现一个可接受的XAI和治理框架，这将作为设计的一部分实施，而不是作为附加项。

表格数据上的生成人工智能可能会在企业中经历炒作周期： 创建合成数据集据说是企业中解决数据相关挑战的容易实现的解决方案之一。数据科学团队将非常喜欢这个解决方案，因为问题在他们的控制之内，而不是依赖于业务，这可能需要时间、昂贵且不能保证遵循所有步骤来收集数据。合成数据解决了偏差问题、数据不平衡、数据隐私和数据不足的问题。当然，这种方法的有效性仍然需要被证明。然而，随着新技术如变换器的成熟，我们可能会看到更多对传统数据集如表格和多维数据的实验。一旦这种方法成功，它可能会对企业和MaaS产品产生巨大的影响。

您还想分享关于Arya.ai的其他信息吗？

Arya.ai的重点是解决银行、保险公司和金融服务机构的人工智能问题。我们的方法是将技术垂直化到最后一层，并使其对每个组织和利益相关者都可用。

AryaXAI（xai.arya.ai）将在向金融服务机构的广大用户提供人工智能解决方案方面发挥重要作用。我们在合成数据方面的持续研究在几个用例中已经成功，但我们旨在使其成为一个更可行和更可接受的选择。我们将继续向我们的“人工智能云”添加更多层，以服务于我们的使命。

我认为我们将看到更多像Arya.ai这样的创业公司，不仅是在金融服务领域的垂直市场，也是在每个垂直市场中。

感谢这次精彩的采访，希望了解更多的读者可以访问Arya.ai。