访谈
Vinay Kumar Sankarapu，Arya.ai 联合创始人兼 CEO – 采访系列
Vinay Kumar Sankarapu 是 Arya.ai 的联合创始人兼 CEO，Arya.ai 是一个为银行、保险和金融服务机构（BFSI）提供“AI”云的平台，帮助他们找到合适的 AI API、专家 AI 解决方案和全面的 AI 治理工具，以部署可信赖和自学习的 AI 引擎。
您的背景是数学、物理、化学和机械工程，可以讨论一下您转向计算机科学和 AI 的经历吗？
在 IIT 波姆拜，我们有“双学位课程”，提供 5 年的课程来完成技术学士和技术硕士学位。我学习机械工程，专攻“计算机辅助设计和制造”，计算机科学是我们课程的一部分。对于我们的研究生研究，我选择了深度学习。虽然我开始使用深度学习来构建连续制造的故障预测框架，但我完成了使用 CNN 进行 RUL 预测的研究。这大约是在 2013/14 年。
您在大学期间就推出了 Arya.ai，可以分享这个创业公司的起源故事吗？
作为学术研究的一部分，我们必须花 3-4 个月的时间进行文献综述，以创建一个详细的研究主题、已经完成的工作范围和可能的研究重点的研究。在 2012/13 年，我们使用的工具非常基本。像 Google Scholar 和 Scopus 这样的搜索引擎只是进行关键字搜索。很难理解可用的知识量。 我认为这个问题只会变得更糟。在 2013 年，我认为每分钟至少发表 30 多篇论文。今天，这个数字至少是 10 倍到 20 倍。
我们想构建一个像“教授”一样的“AI”助手，帮助研究人员建议研究主题、找到最新的论文和任何与 STEM 研究相关的内容。凭借我们在深度学习方面的经验，我们认为我们可以解决这个问题。在 2013 年，我们开始了 Arya.ai 的创业之旅，最初的团队有 3 人，到 2014 年扩展到 7 人，而我仍然在大学里。
我们的第一个产品版本是通过爬取超过 3000 万篇论文和摘要构建的。我们使用当时的深度学习最先进技术来构建 AI STEM 研究助手和 STEM 的上下文搜索引擎。但当我们向一些教授和同事展示了 AI 助手时，我们意识到我们太早了。对话流程有限，用户期望自由流畅和连续的对话。期望在 2014/15 年是非常不切实际的，尽管它能够回答复杂的问题。
之后，我们将研究重点转向为研究人员和企业提供 ML 工具，作为工作台来民主化深度学习。但是，到 2016 年，很少有数据科学家使用深度学习。所以，我们开始将其垂直化为一个垂直领域，并专注于为一个垂直领域（即金融服务机构（FSI））构建专用产品层。我们知道这会起作用，因为虽然大型玩家旨在赢得水平玩法，但垂直化可以为初创公司创造一个大型独特销售点。这次我们是对的！
我们正在为银行、保险和金融服务机构构建“AI”云，拥有最专门的垂直层，以提供可扩展和负责的 AI 解决方案。
AI 黑盒问题在金融领域是一个多大的问题？
非常重要！只有 30% 的金融机构正在将“AI”用到其全部潜力。虽然其中一个原因是可访问性，但另一个原因是缺乏“AI”信任和审计能力。一些地理区域的法规现在明确规定了使用 AI 的法律性质，特别是对于高风险用例，需要使用透明模型。许多金融机构的用例都是高风险用例。因此，他们需要使用白盒模型。
炒作周期正在平息，因为早期的 AI 解决方案经历了很多事情。最近有越来越多的例子表明使用黑盒“AI”的影响、由于不监控而导致的“AI”故障以及由于审计能力有限而导致的法律和风险管理人员面临的挑战。
您能讨论一下 ML 监控和 ML 可观察性的区别吗？
监控工具的工作只是监控和提醒。而可观察性工具的工作不仅是监控和报告，而且最重要的是提供足够的证据来找到故障的原因或预测随时间推移的故障。
在 AI/ML 中，这些工具起着至关重要的作用。虽然这些工具可以提供所需的监控角色，但 ML 可观察性的范围
为什么需要行业特定的平台来进行 ML 可观察性，而不是通用平台？
通用平台是为每个人和任何用例设计的，无论行业如何——任何用户都可以加入并开始使用该平台。这些平台的客户通常是开发人员、数据科学家等。然而，这些平台为利益相关者带来了几个挑战，因为它们具有复杂的性质和“一刀切”的方法。
不幸的是，今天的大多数企业需要数据科学专家来使用通用平台，并需要额外的解决方案/产品层来使这些模型对任何垂直领域的最终用户“可用”。这包括可解释性、审计、分段/场景、人机协同流程、反馈标记、审计、工具特定管道等。
这就是行业特定 AI 平台的优势所在。行业特定 AI 平台拥有整个工作流程来解决目标客户的需求或用例，并被开发为提供从端到端的完整产品，从理解业务需求到监控产品性能。有许多行业特有的障碍，例如监管和合规框架、数据隐私要求、审计和控制要求等。行业特定 AI 平台和产品加速了 AI 的采用，并缩短了开发时间和与 AI 部署相关的风险。此外，这还将帮助将 AI 专长作为产品层集成到行业中，以提高对“AI”的接受度、推动合规工作和找出解决道德、信任和声誉问题的共同方法。
您能分享一些 Arya.ai 提供的 ML 可观察性平台的细节吗？
我们已经在金融服务机构工作了 6 多年。从 2016 年开始。这使我们早期接触到了金融服务机构中部署复杂 AI 的独特挑战。其中一个重要的挑战是“AI”接受度。与其他垂直领域不同，金融服务机构在使用任何软件（包括“AI”解决方案）时存在许多法规、数据隐私、道德和最重要的业务财务影响。为了应对这些挑战，我们不得不不断发明和添加新的可解释性、审计、使用风险和问责层到我们的解决方案中 – 保险理赔、承保、欺诈监控等。随着时间的推移，我们为金融服务行业的各个利益相关者创建了一个可接受和可扩展的 ML 可观察性框架。
我们现在以 AryaXAI（xai.arya.ai）的形式发布该框架的 DIY 版本。任何 ML 或业务团队都可以使用 AryaXAI 来为关键任务用例创建一个全面的 AI 治理。该平台为您的 AI 解决方案提供透明度和审计能力，这些解决方案可被每个利益相关者接受。AryaXAI 使 AI 更加安全和可接受用于关键任务用例，提供可靠和准确的可解释性，提供支持监管尽职调查的证据，通过提供高级策略控制来管理 AI 不确定性，并通过监控数据或模型漂移和提供根因分析来确保生产的一致性。
AryaXAI 还充当一个共同的工作流程，并为所有利益相关者提供见解 – 数据科学、IT、风险、运营和合规团队，使 AI/ML 模型的部署和维护变得无缝和无杂乱。
另一个提供的解决方案是增强 ML 模型适用性的平台，具有上下文政策实施。您能描述一下这是什么吗？
监控和控制生产中的 ML 模型是非常困难的，主要是由于特征和预测的庞大数量。另外，模型行为的不确定性使得管理和标准化治理、风险和合规变得困难。这些模型故障可能导致严重的声誉和财务损失。
AryaXAI 提供“政策/风险控制”，这是一个至关重要的组件，通过执行 AI 政策来保护业务和道德利益。用户可以轻松地添加/编辑/修改政策以管理政策控制。这使得跨职能团队能够定义政策防护栏，以确保持续的风险评估，保护业务免受 AI 不确定性的影响。
这些产品的使用案例有哪些？
AryaXAI 可以在各个行业的各个关键任务流程中实施。最常见的例子是：
BFSI： 在监管严格的环境中，AryaXAI 使得 BFSI 行业更容易就要求和收集所需的证据来管理风险和确保合规。
- 信用审批用于安全/不安全贷款
- 识别欺诈/可疑交易
- 审计
- 客户生命周期管理
- 信用决策
自动驾驶汽车： 自动驾驶汽车需要遵守监管严格性、运营安全性和实时决策的可解释性。AryaXAI 启用了对 AI 系统如何与车辆交互的理解
- 决策分析
- 自动驾驶汽车操作
- 车辆健康数据
- 监控 AI 驾驶系统
医疗保健： AryaXAI 提供了来自医学、技术、法律和患者角度的更深入的见解。从药物发现到制造、销售和营销，Arya-xAI 促进了跨学科的合作
- 药物发现
- 临床研究
- 临床试验数据验证
- 更高质量的护理
您对金融领域机器学习的未来有什么展望？
在过去的十年中，围绕“AI”有着巨大的教育和营销。我们在此期间看到了多个炒作周期。我们可能现在处于第 4 个或第 6 个炒作周期。第一个是深度学习在 2011/12 年赢得 ImageNet 后，接着是围绕图像/文本分类、语音识别、自动驾驶汽车、生成式 AI 和目前的大型语言模型的工作。每个炒作周期之间的峰值和大规模使用之间的差距正在减小，因为产品、需求和资金的迭代。
已经发生了三件事情：
- 我认为我们已经破解了 AI 解决方案的规模框架，至少是由一些专家完成的。 例如，Open AI 目前是一个非盈利组织，但他们预计在 2 年内实现 10 亿美元的收入。虽然并非每家 AI 公司都可能实现类似的规模，但可扩展性的模板已经更加明确。
- 理想的 AI 解决方案的定义几乎被所有垂直领域明确。 与之前不同，产品是通过迭代实验为每个用例和每个组织构建的，利益相关者越来越多地被教育以了解他们从 AI 解决方案中需要什么。
- 法规现在正在赶上。 明确的数据隐私和 AI 使用法规的需求现在正在获得巨大的关注。管理机构和监管机构能够发布或正在发布有关 AI 的安全、道德和负责使用的所需框架。
接下来是什么？
“模型即服务（MaaS）”的爆发：
我们将看到对“模型即服务”提案的需求日益增加，不仅是水平的，也是垂直的。虽然“OpenAI”代表了一个很好的“水平 MaaS”的例子，但 Arya.ai 是垂直“MaaS”的例子。凭借对部署和数据集的经验，Arya.ai 已经收集了关键的垂直数据集，这些数据集被用来训练模型并以可插拔或预训练模型的形式提供。
垂直化是新的水平： 我们已经在“云采用”中看到了这种趋势。虽然水平云玩家专注于“适用于所有人的平台”，垂直玩家专注于最终用户的需求，并将其作为专用产品层提供。这也适用于 MaaS 提供。
XAI 和 AI 治理将成为企业的常态： 根据监管的敏感性，每个垂直领域都将实现一个可接受的 XAI 和治理框架，这将作为设计的一部分实施，而不是作为添加项。
还有什么您想分享关于 Arya.ai 的吗？
Arya.ai 的重点是解决银行、保险和金融服务的“AI”问题。我们的方法是将技术垂直化到最后一层，并使其对每个组织和利益相关者都可用和可接受。
AryaXAI（xai.arya.ai）将在将其推向大众方面发挥重要作用，特别是在 FSI 垂直领域。我们在合成数据方面的持续研究在几个用例中已经成功，但我们旨在使其成为一个更可行和可接受的选择。我们将继续向我们的“AI”云添加更多层，以服务我们的使命。
我认为我们将会看到更多像 Arya.ai 这样的初创公司，不仅是在 FSI 垂直领域，也是在每个垂直领域。
感谢这次精彩的采访，希望了解更多的读者可以访问 Arya.ai。
