使用 MLOps 实现企业 AI 最大化投资回报率 – 思想领袖

作者：Victor Thu，Datatron 客户成功和运营副总裁。

2020 年末，Gartner 的一项调查发现，75% 的受访者计划在未来一年继续或启动新的 AI 计划。同时，Gartner 分析师还发现，将 AI 计划投入生产时遇到的最重大困难之一是，组织无法将这些投资与业务价值联系起来。

更何况，据估计，绝大多数 AI/ML 项目都将失败。这一事实使得获得高层对这些投资的认可变得更加困难。这就是 MLOps – 机器学习运营 – 可以发挥关键作用的地方。

当前的 ML 景观

机器学习为组织提供了巨大的可能性，但现实是，实现这些可能性可能很昂贵和耗时。因此，尽管实施 ML 的兴趣很高，但实际的生产实施仍然很低。将解决方案投入生产的主要障碍不是模型的质量，而是缺乏基础设施来允许公司这样做。

机器学习的开发生命周期与传统软件开发的生命周期根本不同。在过去的 20 年里，人们基本上已经弄清楚了传统软件从开发到生产需要什么。他们了解到确保应用程序运行良好的计算、middleware、网络、存储和其他元素。

不幸的是，大多数人试图使用相同的软件开发生命周期（SDLC）来管理机器学习开发生命周期（MLLC）。但是，ML 是一个重大的范式转变。基础设施分配是独特的。语言和框架是不同的。

机器学习模型可以在几周内相对快速地创建，但将这些模型投入生产的过程可能需要六到九个月，因为存在孤立的过程、团队之间的断开和手动转换和脚本化 ML 模型到现有应用程序中。

一旦机器学习模型投入生产，监控和管理它们也很困难。没有保证在实验室中创建的 ML 模型将按照预期在生产中运行。并且可能有几个不同的因素导致这种情况。

MLOps 的益处

当谈到在生产中部署机器学习模型时，如前所述，可能会出现很多问题。当 IT/DevOps 尝试使机器学习模型运营时，这些团队需要手动脚本和自动化不同的过程。这些模型经常被更新，每次模型更新时，整个过程都会被重复。

当一个组织有越来越多的模型和这些模型的不同迭代时，跟踪它们变得是一个巨大的问题。一个大问题是，他们使用的工具通常不能解决不同代码库和框架之间的断开问题。这可能会导致问题，导致浪费时间和资源等问题。大多数团队今天也难以跟踪和版本化他们的模型，因为他们正在更新它们。

MLOps 有助于弥合数据科学和运营之间的差距，以管理生产 ML 生命周期 – 本质上是将 DevOps 原则应用于 ML 交付。这使得 ML 基础解决方案的上市时间更快，实验速度更快，质量和可靠性得到保证。

使用传统的 SDLC 模型，您可能能够以极大的痛苦和低效率每年完成一两个 ML 模型。但是，使用 MLOps，您可以扩大规模，因此您可以解决多个问题。您可以使用这些模型来帮助更好地定位潜在客户，找到更相关的客户或找到和改进低效率。您可以更快地推出改进， 궁극上提高生产力和利润。

MLOps 成功的要素

MLOps 不是银弹。你仍然需要有适当的基础，并了解最佳实践，才能使其发挥作用。要成功地使用 MLOps，您需要专注于两个主要任务。第一个是了解不同的角色。你需要确保你有合适的、多样化的技能和员工；不要把数据科学家和机器学习工程师当作同一件事。两者都是必要的，但你需要混合。

第二件事要记住的是，不要尝试自己动手做所有事情。MLOps 也需要大量的劳动力，需要大型的 ML 工程师团队。重要的是要思考你需要什么，并查看有哪些工具可以帮助你简化方法和简化所需的专用人员数量。

自信地向前迈进

行业分析师估计，几乎一半的企业 AI 项目注定会失败。有几个原因导致这种失败，包括组织的文化。但主要原因是缺乏适当的技术来支持项目。MLOps 是帮助组织在 AI/ML 项目中实现成功的有用工具，从而带来竞争优势。