Vivek Desai，RLDatix 北美首席技术官 – 采访系列

Vivek Desai 是 RLDatix 北美的首席技术官，RLDatix是一家连接医疗运营软件和服务公司。RLDatix 的使命是改变医疗保健。他们通过提供治理、风险和合规工具来帮助组织推动更安全、更高效的医疗服务，从而实现整体改进和安全。

您最初为什么对计算机科学和网络安全感兴趣？

我被计算机科学和网络安全所要解决的复杂性所吸引 – 总是有新的挑战需要探索。一个很好的例子是，当云计算刚开始流行时。它带来了很大的希望，但也引发了一些关于工作负载安全的问题。很明显，传统的方法只是暂时的解决方案，各个组织都需要开发新的流程来有效地保护云中的工作负载。探索这些新方法对我和许多在这个领域工作的人来说是一段非常激动人心的旅程。这是一个动态的、不断演变的行业，所以每一天都带来新的、令人兴奋的东西。

您可以分享一下您作为 RLDatix 首席技术官的当前职责吗？

目前，我专注于领导我们的数据战略，并找到方法来创建产品和数据之间的协同效应，以便更好地了解趋势。我们的许多产品都包含类似的数据类型，因此我的工作是找到方法来打破这些数据孤岛，使我们的客户（医院和医疗系统）更容易访问这些数据。同时，我还在努力我们的全球人工智能（AI）战略，以便更好地了解数据访问和利用。保持对各个行业的新兴趋势的关注也是我的职责之一，以确保我们朝着正确的战略方向前进。我目前正在密切关注大型语言模型（LLM）。作为一家公司，我们正在努力将 LLM 集成到我们的技术中，以增强和赋予医疗保健提供者（尤其是医疗人员）能力，减少他们的认知负担，并使他们能够专注于照顾患者。

在您的 LinkedIn 博客文章《我的第一个年头作为首席技术官的反思》中，您写道：“首席技术官不单独工作，他们是团队的一部分。”您可以详细说明一下您面临的一些挑战以及您如何处理委派和团队合作的问题，特别是在技术上具有挑战性的项目中吗？

首席技术官的角色在过去的十年中已经发生了根本性的变化。单独在服务器室工作的日子已经一去不返了。现在，这份工作变得更加协作。我们在各个业务单元之间共同合作，制定组织的优先事项，并将这些愿望转化为推动我们前进的技术需求。医院和医疗系统目前面临着许多日常挑战，从人员管理到财务约束，采用新技术可能并不是他们的首要任务。我们的最大目标是展示技术如何帮助减轻这些挑战，而不是增加它们，以及它为他们的业务、员工和患者带来的整体价值。这项工作不能单独完成，甚至不能在我的团队内部完成，因此跨学科单元的合作对于制定一个展示价值的全面战略至关重要，无论是为客户提供解锁数据洞察力还是激活他们目前无法执行的流程。

人工智能在连接医疗运营的未来中扮演什么角色？

随着人工智能和集成数据的出现，它可以用来连接不同的系统，并在医疗服务的整个过程中提高安全性和准确性。连接医疗运营是一个我们在 RLDatix 关注的类别，因为它为医疗决策者解锁了可行的数据和洞察力 – 而人工智能对于实现这一目标至关重要。

连接人工智能和数据使用的安全性和合规性是一个不可协商的方面。我们是政策、风险和安全方面的市场领导者，这意味着我们拥有大量的数据来训练基础的 LLM 以更高的准确性和可靠性。要实现真正的连接医疗运营，第一步是合并不同的解决方案，第二步是提取数据并在这些解决方案中标准化。医院将从一组相互连接的解决方案中受益，这些解决方案可以合并数据集并为用户提供可行的价值，而不是维护单独的数据集。

在最近的一次主题演讲中，首席产品官 Barbara Staruk分享了 RLDatix 如何利用生成性人工智能和大型语言模型来简化和自动化患者安全事件报告。您可以详细说明一下这如何工作吗？

这是 RLDatix的一个重要举措，也是我们如何最大化大型语言模型潜力的一个很好的例子。当医院和医疗系统完成事件报告时，目前有三种标准格式来确定报告中指示的伤害级别：医疗研究和质量机构的共同格式，药物错误报告和预防的国家协调委员会，以及医疗保健绩效改进（HPI）安全事件分类（SEC）。目前，我们可以轻松地训练一个大型语言模型来阅读事件报告中的文本。如果患者死亡，例如，大型语言模型可以轻松地找出这些信息。然而，挑战在于训练大型语言模型来确定上下文并区分更复杂的类别，例如严重的永久性伤害，这是 HPI SEC 中的一个分类，或者是严重的暂时性伤害。如果报告人员没有提供足够的上下文，大型语言模型将无法确定特定患者安全事件的适当伤害级别。

RLDatix 旨在实施一个更简单的全球性分类系统，具有可以被大型语言模型轻松区分的具体类别。随着时间的推移，用户将能够简单地写下发生了什么，大型语言模型将处理其余的事情，提取所有重要的信息，并预填充事件表格。这不仅可以为已经紧张的劳动力节省大量时间，而且随着模型变得更加先进，我们还将能够识别关键趋势，从而使医疗保健组织能够在整个医疗过程中做出更安全的决定。

RLDatix 还开始将大型语言模型融入其运营的其他方式是什么？

我们在内部利用大型语言模型的另一种方式是简化认证流程。每个提供者的证书都以不同的格式排列，并包含唯一的信息。为了说明这一点，想想每个人的简历看起来都不同 – 字体、工作经验、教育和整体格式。认证也是如此。提供者在哪里上大学？他们的认证是什么？他们发表了哪些文章？每个医疗保健专业人员都会以自己的方式提供这些信息。

在 RLDatix，大型语言模型使我们能够阅读这些证书并将所有这些数据提取到一个标准化的格式中，这样数据录入人员就不必花费大量时间搜索这些信息，从而使他们能够花更多时间在有意义的任务上，而不是花时间在行政任务上。

网络安全一直很具有挑战性，尤其是随着向基于云的技术的转变，您可以讨论一些这些挑战吗？

网络安全确实很具有挑战性，这就是为什么与合适的合作伙伴合作很重要。确保大型语言模型保持安全和合规是使用这种技术时最重要的考虑因素。如果您的组织没有专门的内部人员来完成这项工作，那么这将非常具有挑战性和耗时。因此，我们与亚马逊网络服务（AWS）合作，开展大多数网络安全计划。AWS帮助我们将安全和合规作为我们技术的核心原则，这样RLDatix就可以专注于我们真正擅长的事情 – 为客户打造优秀的产品。

您在大型语言模型最近被广泛采用时看到的一些新的安全威胁是什么？

从 RLDatix 的角度来看，我们正在处理几个问题，随着我们开发和训练大型语言模型。我们的一个重要重点是减轻偏见和不公平。大型语言模型的好坏取决于它们所训练的数据。性别、种族和其他人口统计因素都可能包含内在的偏见，因为数据集本身就是有偏见的。例如，想想美国东南部如何在日常语言中使用“y’all”这个词。这是特定患者人群中一种独特的语言偏见，研究人员必须在训练大型语言模型时考虑到这一点，以准确区分语言细微差别，而不是其他地区。这些偏见必须在医疗保健领域大规模解决，使用大型语言模型时，训练一个模型在一个患者人群中并不一定意味着该模型将在另一个人群中起作用。

维护安全性、透明度和问责制也是我们组织的重点，以及减轻任何出现幻觉和错误信息的机会。确保我们积极解决任何隐私问题，我们了解模型如何得出某个答案，我们有一个安全的开发周期，这些都是有效实施和维护的大型语言模型的重要组成部分。

RLDatix 使用的其他机器学习算法是什么？

使用机器学习来揭示关键的排班洞察力，对于我们的组织来说是一个有趣的用例。特别是在英国，我们一直在探索如何利用机器学习来更好地了解如何安排护士和医生的排班。RLDatix 可以访问过去十年的大量排班数据，但我们能对这些信息做什么？这就是机器学习的用处。我们正在使用一个机器学习模型来分析这些历史数据，并提供对未来两周内特定医院或特定地区的员工情况可能如何看起来的洞察力。

这个特定的用例是一个可以实现的机器学习模型，但我们正在进一步推动这一点，通过将其与现实生活中的事件联系起来。例如，如果我们查看该地区的所有足球赛程呢？我们知道体育赛事通常会导致更多的伤害，当地医院在比赛日的患者数量可能比平常多。我们正在与亚马逊网络服务和其他合作伙伴合作，探索我们可以使用哪些公共数据集来使排班更加流畅。我们已经有数据表明，我们将在重大体育赛事或恶劣天气期间看到患者数量的增加，但机器学习模型可以更进一步，通过分析这些数据并找出关键趋势，这将有助于确保医院能够充分应对，并最终实现更安全的医疗保健。

感谢这次精彩的采访，希望了解更多的读者可以访问 RLDatix。