Vivek Desai，RLDatix北美首席技术官 – 采访系列

Vivek Desai 是RLDatix北美的首席技术官，RLDatix是一家连接医疗运营软件和服务公司。RLDatix的使命是改变医疗行业。他们通过提供治理、风险和合规工具来帮助组织实现更安全、更高效的医疗服务，从而推动整体改进和安全。

是什么最初吸引你进入计算机科学和网络安全领域？

我被计算机科学和网络安全所要解决的复杂问题所吸引——总是有新的挑战需要探索。一个很好的例子是当云计算刚开始流行的时候。它带来了很大的希望，但也引发了一些关于工作负载安全的问题。很明显，传统的方法只是暂时的解决方案，各个组织需要开发新的流程来有效地保护云中的工作负载。导航这些新方法对我和许多在这个领域工作的人来说是一次令人兴奋的旅程。这是一个动态和不断演变的行业，所以每一天都带来新的和令人兴奋的东西。

您能否分享您作为RLDatix首席技术官的当前职责？

目前，我专注于领导我们的数据战略，并找到方法来创建产品和数据之间的协同效应，以便更好地理解趋势。我们的许多产品都包含类似的数据类型，因此我的工作是找到方法来打破这些数据孤岛，使我们的客户（医院和医疗系统）更容易访问数据。同时，我还在我们的全球人工智能（AI）战略上工作，以告知数据访问和利用跨整个生态系统。

跟踪各个行业的新兴趋势也是我职责的一个关键方面，以确保我们走在正确的战略方向上。我目前正在密切关注大型语言模型（LLM）。作为一家公司，我们正在努力找到方法将LLM集成到我们的技术中，以增强和赋予医疗保健提供者权力，减少他们的认知负担，并使他们能够专注于照顾患者。

在您的LinkedIn博客文章《我的第一个CTO年》中，您写道，“CTO不单独工作。他们是团队的一部分。”您能否详细说明您面临的一些挑战以及您如何处理委派和团队合作的问题，特别是在技术上具有挑战性的项目中？

CTO的角色在过去十年中已经发生了根本性的变化。过去的CTO工作在服务器室，现在的CTO工作更加协作。我们在各个业务单位之间共同制定组织优先事项，并将这些愿望转化为技术要求来推动我们前进。目前，医院和医疗系统面临着许多日常挑战，从工作人员管理到财务约束，采用新技术可能不是他们的首要任务。我们的主要目标是展示技术如何帮助缓解这些挑战，而不是增加它们，并展示它对他们的业务、员工和患者的整体价值。这项工作不能单独完成，甚至不能在我的团队内完成，因此我们需要跨多学科单位合作，以制定一个展示该价值的综合战略，无论是通过为客户提供解锁的数据洞察力还是激活他们目前无法执行的流程。

人工智能在连接医疗运营的未来中扮演什么角色？

随着人工智能的集成，数据可以被利用来连接不同的系统，并在整个医疗过程中提高安全性和准确性。连接医疗运营的概念是我们在RLDatix关注的一个类别，因为它为医疗决策者解锁了可行的数据和洞察力——人工智能是使其成为现实的关键因素。

人工智能集成的一个不可协商的方面是确保数据使用是安全和合规的，并且风险是可以理解的。我们是政策、风险和安全的市场领先者，这意味着我们拥有大量的数据来训练基础的LLM，使其更准确、更可靠。要实现真正的连接医疗运营，第一步是合并不同的解决方案，第二步是提取数据并在这些解决方案中标准化。医院将从一组相互连接的解决方案中受益，这些解决方案可以合并数据集并为用户提供可行的价值，而不是维护单独的数据集用于个别点解决方案。

在最近的一次主题演讲中，首席产品官Barbara Staruk分享了RLDatix如何利用生成性人工智能和大型语言模型来简化和自动化患者安全事件报告。您能否详细说明这如何工作？

这是RLDatix的一个重要举措，也是我们如何最大化LLM潜力的一个很好的例子。当医院和医疗系统完成事件报告时，目前有三个标准格式来确定报告中指示的损害程度：医疗研究和质量机构的通用格式，国家药物错误报告和预防协调委员会以及医疗保健绩效改进（HPI）安全事件分类（SEC）。目前，我们可以轻松地训练LLM来阅读事件报告中的文本。如果患者死亡，例如，LLM可以无缝地识别出该信息。然而，挑战在于训练LLM来确定上下文并区分更复杂的类别，例如严重永久损害，这是HPI SEC中包含的一个分类。如果报告人员没有包括足够的上下文，LLM将无法确定特定患者安全事件的适当类别级别。

RLDatix旨在实施一个全球性的、跨我们整个产品组合的更简单的分类法，具有可以被LLM轻松区分的具体类别。随着时间的推移，用户将能够简单地写下发生了什么，LLM将处理其余的事情，提取所有重要的信息并预填充事件表格。这不仅是当前已经紧张的劳动力的显著时间节省器，而且随着模型变得更加先进，我们还将能够识别出关键趋势，使医疗保健组织能够在整个领域内做出更安全的决策。

RLDatix还开始将LLM集成到其运营的其他方式是什么？

我们内部使用LLM的另一种方式是简化认证流程。每个提供者的证书都以不同的格式排列，并包含唯一的信息。为了说明这一点，想想每个人的简历看起来都不同——从字体、工作经验、教育背景到整体格式。认证类似。提供者在哪里上大学？他们的认证是什么？他们发表了哪些文章？每个医疗专业人员都会以自己的方式提供这些信息。

在RLDatix，我们使用LLM来读取这些证书并将所有这些数据提取到一个标准化的格式中，这样数据录入人员就不必花费大量时间来搜索这些信息，使他们能够花费更少的时间在行政组件上，专注于为客户增加价值的有意义的任务上。

网络安全一直很具有挑战性，尤其是随着向基于云的技术的转变，您能否讨论一些这些挑战？

网络安全确实具有挑战性，这就是为什么与正确的合作伙伴合作很重要。确保LLM保持安全和合规是利用该技术的最重要的考虑因素。如果您的组织没有专门的内部员工来执行此操作，那么这可能非常具有挑战性和耗时。这就是为什么我们与Amazon Web Services（AWS）合作的大多数网络安全计划。AWS帮助我们在技术中将安全性和合规性作为核心原则，使RLDatix能够专注于我们真正擅长的事情——为客户在各个垂直领域构建伟大的产品。

您最近在大型语言模型（LLM）快速采用中看到的一些新安全威胁是什么？

从RLDatix的角度来看，我们正在处理几个问题，因为我们正在开发和训练LLM。我们的一个重要重点是减轻偏见和不公平。LLM的好坏取决于它们所训练的数据。诸如性别、种族和其他人口统计学因素等因素可能包含许多内在的偏见，因为数据集本身就是有偏见的。例如，想想美国东南部如何在日常语言中使用“y’all”这个词。这是特定患者人群中内在的语言偏见，研究人员必须在训练LLM时考虑，以便准确地区分语言细微差别与其他地区相比。这些偏见必须在大规模上解决，当在医疗保健中利用LLM时，因为在一个患者人群中训练的模型不一定能在另一个患者人群中起作用。

维护安全性、透明度和问责制也是我们组织的重点，以及减轻任何幻觉和错误信息的机会。确保我们积极解决任何隐私问题，了解模型如何得出某个答案，并且我们有一个安全的开发周期，这些都是有效实施和维护的重要组成部分。

RLDatix使用的其他机器学习算法是什么？

使用机器学习来发现关键的排班洞察力，对于我们的组织来说是一个有趣的用例。特别是在英国，我们一直在探索如何利用机器学习来更好地理解如何排班（或安排护士和医生的班次）。RLDatix拥有过去十年的大量排班数据，但我们能对这些信息做什么？这就是机器学习的用处。我们正在使用一个机器学习模型来分析这些历史数据，并提供有关特定医院或某个地区两周后可能出现的员工情况的洞察力。

这个特定的用例是一个非常可行的机器学习模型，但我们正在进一步推动它，将其与现实生活中的事件联系起来。例如，如果我们查看该地区的每个足球赛程？我们知道体育比赛通常会导致更多的伤害，当地医院在比赛当天的住院人数可能比平常多。我们正在与AWS和其他合作伙伴合作，探索我们可以使用哪些公共数据集来使排班更加流畅。我们已经有数据表明，我们将在重大体育赛事或甚至恶劣天气时看到患者人数的增加，但机器学习模型可以更进一步，通过利用这些数据来识别关键趋势，这将有助于确保医院能够充分应对需求，最终减轻我们劳动力的负担，并使我们的行业在实现所有人更安全的护理方面迈出一步。

感谢这次精彩的采访，希望了解更多的读者可以访问RLDatix。