利兰·哈森，Aporia联合创始人兼CEO – 采访系列

利兰·哈森是Aporia的联合创始人兼CEO，Aporia是一家全栈ML可观察性平台，用于确保负责人工智能。Aporia与任何ML基础设施无缝集成。无论是Kubernetes上的FastAPI服务器、MLFlow等开源部署工具，还是AWS Sagemaker等机器学习平台。

在创立Aporia之前，利兰曾是Adallom（被Microsoft收购）的ML架构师，后来成为Vertex Ventures的投资者。

您10岁开始编码，最初是什么吸引您对计算机的兴趣，您当时在做什么？

那是1999年，一个朋友打电话给我，说他建了一个网站。输入200个字符的地址后，我在浏览器中看到一个带有他名字的网站。我对他能在自己的电脑上创建东西并在我的电脑上看到它感到惊讶。这让我非常好奇它是如何工作的，以及我如何做到同样的事情。我问妈妈给我买一本HTML书，这是我编程的第一步。

我喜欢接受技术挑战，随着时间的推移，我的好奇心只会越来越强。我学习了ASP、PHP和Visual Basic，并且我能接触到的任何东西都在学习。

13岁时，我已经开始接一些自由职业的工作，建网站和桌面应用程序。

当我没有活跃的工作时，我会在自己的项目上工作——通常是不同的网站和应用程序，旨在帮助他人实现目标：

蓝白编程 – 这是一种希伯来编程语言，类似于HTML，我在意识到以色列的孩子们没有高水平的英语会被限制或被编程世界排除在外后创建了它。

Blinky – 我的祖父母是聋人，使用手语与朋友交流。当Skype和ooVoo等视频会议软件出现时，它们使他们能够与朋友交流，即使他们不在同一个房间（就像我们现在使用手机一样）。然而，由于他们听不到，他们无法知道何时有来电。为了帮助他们，我编写了软件来识别来电并通过闪烁LED数组提醒他们，这是一个我连接到他们电脑的小硬件设备。

这些只是我作为青少年时建立的一些项目。我的好奇心从未停止，我发现自己在学习C、C++、汇编语言和操作系统的工作原理，并尽力学习尽可能多的东西。

您能分享一下您在Microsoft收购的Adallom担任机器学习架构师的经历吗？

我在完成军事服务后加入了Adallom。五年军队服役后，我看到一个很好的机会加入一家新兴公司和市场——作为第一批员工之一。这家公司由我在军队服役时认识的优秀创始人领导，并得到了顶级风险投资家的支持——如红杉资本。云技术的爆发仍处于相对初期，我们正在构建当时最早的云安全解决方案之一。企业刚刚开始从本地转向云，我们看到新的行业标准出现——如Office 365、Dropbox、Marketo、Salesforce等。

在我加入的前几周内，我已经知道我想创办自己的公司。我从技术角度来看，觉得我可以应对任何挑战，如果不是我自己，我知道有合适的人可以帮助我克服任何问题。

Adallom需要有人具有深入的技术知识，并且可以面向客户。在我加入一个月后，我就乘坐飞机前往美国，第一次访问美国，与LinkedIn（当时属于Microsoft）的人见面。几周后，他们就成了我们的第一个美国付费客户。之后，我帮助Netflix、迪士尼和Safeway等大公司解决了关键的云问题。这是一个非常有教育意义和自信心的建立过程。

对于我来说，加入Adallom是关于加入一个我相信的市场、团队和愿景的地方。我非常感谢在Adallom获得的机会。

我所做的事情的目的很重要。对我来说，这在军队中也是一样，总是很重要。我可以清楚地看到Adallom的方法——连接到SaaS解决方案、监控用户和资源的活动、发现异常等——这是未来的做法。我意识到Adallom将会是一家成功的公司。

我负责整个ML基础设施的架构，并亲眼目睹了缺乏适当工具的生态系统。很明显，需要一个专用的解决方案，一个集中化的地方，可以看到所有模型、看到它们为业务做出的决定、可以跟踪和主动处理ML目标。例如，我们曾经花了太长时间才意识到机器学习模型中的问题，这对用户和业务都不好。这就是Aporia的想法开始成型的地方。

您能分享一下Aporia背后的故事吗？

我的机器学习经验始于2008年，当时我参与了威兹曼研究所、巴斯大学和中国研究中心的合作项目。在那里，我通过分析虹膜图像构建了一个生物识别系统，并实现了94%的准确率。该项目从研究角度来看是成功的，但对我来说，感觉有些不真实。因为我从10岁开始就一直在编写软件，你不能真正在现实生活中使用我构建的生物识别系统，因为它只对我使用的特定数据集有效。它不够确定。

这是背景。当你构建一个机器学习系统时，例如用于生物识别，你希望预测是确定的——你希望知道系统能够准确识别某个人。就像你的iPhone不会解锁，如果它不识别正确的人在正确的角度，这是理想的结果。但在机器学习中，这并不是事实。

七年后，我在Adallom亲身经历了在没有可靠防护的情况下运行生产模型的现实。后来，我有幸在Vertex Ventures担任投资者三年。我看到越来越多的组织使用ML，并且公司从仅仅谈论ML转变为实际使用ML。然而，这些公司面临着我们在Adallom面临的相同问题。

每个人都急于使用ML，但他们试图在内部构建监控系统。显然，这不是他们的核心业务，这些挑战相当复杂。这时我意识到这是我产生巨大影响的机会。

人工智能正在被各个行业采用，包括医疗保健、金融服务、汽车等，并将影响每个人的生活。这就是Aporia展示其真正价值的地方——使所有这些改变生活的用例能够正常运行并改善我们的社会。因为，就像任何软件一样，你会遇到错误，机器学习也不例外。如果不加控制，ML问题可能会真正损害业务连续性，并对社会产生意想不到的偏见结果。拿亚马逊尝试实施人工智能招聘工具为例——意想不到的偏见导致机器学习模型更倾向于推荐男性候选人而不是女性候选人。这显然是一个不期望的结果。因此，需要一个专门的解决方案来检测意想不到的偏见，在它被新闻报道并影响最终用户之前。

组织若要正确地依赖机器学习并享受其带来的好处，他们需要知道何时机器学习没有正常工作。现在，有了新的法规，ML用户通常需要解释其模型预测的方法。最终，研究和开发新的模型和创新项目很重要，但是一旦这些模型面对现实世界并为人们、企业和社会做出真正的决定时，需要一个全面的可观察性解决方案来确保他们可以信任人工智能。

您能解释一下透明和可解释的AI的重要性吗？

虽然看起来相似，但传统软件和机器学习之间存在一个重要的区别。在软件中，你有一个软件工程师，编写代码，定义应用程序的逻辑，我们知道代码的每个流程会发生什么。这是确定性的。这是软件通常的构建方式，工程师创建测试用例，测试边缘情况，达到70% – 80%的覆盖率——你会觉得足够好，可以发布到生产环境中。如果出现任何警报，你可以轻松地调试并了解哪个流程出了问题，并进行修复。

这不是机器学习的案例。相反，如果人类定义逻辑，它是作为模型训练过程的一部分定义的。当谈到逻辑时，传统软件中它是一套规则，但机器学习模型中它是一亿个数字的矩阵，代表机器学习模型的“大脑”。这是一個黑盒，我们不知道矩阵中每个数字的含义。但我们知道统计学上，它是概率性的，而不是确定性的。它可以在83%或93%的情况下是准确的。这引发了很多问题，对吧？首先，我们如何信任一个我们无法解释其预测方式的系统？第二，在高度监管的行业中，例如金融部门，如何解释预测？例如，在美国，金融公司有法律义务向客户解释为什么他们被拒绝贷款申请。

无法用人类可读的文本解释机器学习预测可能是ML在各个行业大规模采用的主要障碍。我们希望知道模型不是做出偏见的决定。我们希望确保我们理解是什么导致模型做出特定的决定。这就是可解释性和透明度的重要性。

Aporia的透明和可解释的AI工具箱解决方案如何工作？

Aporia的可解释AI工具箱作为统一的机器学习可观察性系统的一部分工作。没有对生产模型的深入可见性和可靠的监控和警报系统，很难信任可解释的AI洞察——如果输出不可靠，就没有必要解释预测。这就是Aporia的用途，提供对所有运行模型的单一窗口的可见性、可自定义的监控、警报功能、调试工具、根因分析和可解释的AI。一个专用的、全栈的可观察性解决方案，用于生产中出现的任何问题。

Aporia平台是中立的，为以AI为导向的企业、数据科学和ML团队提供一个集中化的仪表板和对其模型的健康状况、预测和决策的完整可见性——使他们能够信任AI。通过使用Aporia的可解释AI，组织可以让每个相关的利益相关者了解机器学习决策，并通过单击按钮获得人类可读的洞察力。另外，Aporia不断跟踪输入模型的数据以及预测，并在重要事件发生时主动发送警报，包括性能下降、意外偏差、数据漂移，甚至改进模型的机会。最后，通过Aporia的调查工具箱，您可以找到任何事件的根源，并改进生产中的任何模型。

一些功能包括数据点和时间序列调查工具，这些工具如何帮助防止AI偏差和漂移？

数据点提供了模型接收的数据和预测的实时视图，您可以实时看到业务中发生了什么。这项可见性的能力对于透明度至关重要。有时，事情会随着时间的推移而变化，并且多个变化之间存在相关性——这就是时间序列调查的作用。

最近，主要零售商的所有AI预测工具都在预测供应链问题时失败，Aporia平台将如何解决这个问题？

识别此类问题的主要挑战在于我们正在谈论对未来的预测。这意味着我们预测某事将或不会在未来发生。例如，多少人会购买特定的衬衫或购买新的PlayStation。

然后，需要一些时间来收集所有实际结果——超过几周。然后，我们可以总结并说，好吧，这是我们看到的实际需求。这段时间，我们谈论的是从模型做出预测到业务确切知道它是正确还是错误的几个月的时间。这就是Aporia进入画面并变得非常有用的地方。首先，它允许组织轻松获得对所做决定的透明度和可见性——是否有波动？是否有任何不合理的东西？其次，正如我们所讨论的那样，我们正在谈论大型零售商，我们正在谈论巨大的、巨大的库存，手动跟踪它们几乎是不可能的。这就是Aporia最有价值的地方——作为一个24/7的自动化和可定制的监控系统。Aporia不断跟踪数据和预测，它分析预测的统计行为，并可以预测和识别消费者行为和数据行为的变化，一旦它发生。与其等待六个月才意识到需求预测是错误的，您可以在几天内识别我们在需求预测方面走错了路。对于任何ML实践者来说，这是一个巨大的游戏规则改变者。

您是否还有其他关于Aporia的信息想要分享？

我们正在不断增长，并寻找有才华的思想加入Aporia的旅程。请查看我们的开放职位。

感谢这次精彩的采访，希望了解更多的读者可以访问Aporia。