思想领袖

从代码到治愈：下一个 AI 革命需要一双手（和眼睛）

mm
发布于
更新于
将 Unite.AI 添加到您在 Google 上的首选来源
A diverse female scientist in smart glasses works alongside a sophisticated dual-arm robotic lab system in a futuristic wet lab.

如何让代理系统、XR 智能眼镜和机器人赋予人类力量——而不是取代他们

我们正在经历一个人工智能的悖论。

在屏幕上，人工智能是超人的。大量语言模型可以在几秒钟内编写功能性 Python 代码。生成系统可以在几分钟内生成逼真的图像和视频。诺贝尔奖获奖系统如 AlphaFold 已经预测了几乎所有已知蛋白质的结构。数字化的胜利正在不断增加。

然而，在生物医学研究的物理世界中，发现的过程仍然是非常手动的。我们还没有真正感受到人工智能在加速科学或医学方面的作用，至少现在还没有。数字表明了问题的深度。一个针对 1500 多名科学家的 Nature 调查发现，超过 70% 的科学家尝试并失败地重现了其他研究人员的实验。更令人担忧的是：超过一半的科学家无法重现自己的工作。在癌症生物学中，一个为期八年的可重复性项目发现，只有 40% 的高影响力发现可以被复制，68% 的实验缺乏足够的文档记录，甚至无法尝试复制。

这是现代科学的一个肮脏秘密：我们有一个知识捕获的问题，而不仅仅是一个发现问题。关键的实验细节存储在研究人员的头脑中，而不是在论文中。协议会发生变化。隐性知识会随着研究人员的毕业而离开实验室。人工智能系统在发表的文献上进行训练时会继承所有这些差距。

根本问题是，虽然人工智能可以在数字模拟中设计出一种新型蛋白质用于癌症治疗，但它无法拿起一个移液管来测试它。它无法在湿实验室中导航，以验证自己的假设。它无法观看一位经验丰富的科学家的双手，并学习使实验成功的微妙技巧。

这个“执行差距”是阻止人工智能革命成为医学革命的最大瓶颈。虽然大多数机器人公司仍然忙于教机器折叠衣服或装载洗碗机，但它们在诸如医学等领域真正具有变革性的能力方面却落后了。

为了解决这个问题，我们必须超越聊天机器人，朝着人工智能协同科学家（AI Co-Scientists）发展，这些代理系统可以连接数字世界和物理世界，超越规划和编码，进入现实世界的执行。在斯坦福大学，我们正在开发 LabOS，一种数字-物理人工智能框架，展示了人工智能代理、扩展现实（XR）智能眼镜和协作机器人如何联合起来关闭这个循环，将科学实验转化为人类和机器之间的协作对话，同时自动捕获当前丢失的知识。

巨大的鸿沟：为什么人工智能需要“眼睛”和“手”

许多最显著的人工智能胜利发生在环境完全数字化的地方：代码仓库、策划的数据集或模拟基准（人工智能竞争运行虚拟业务或数字投资股票）。

湿实验室是不同的。生物学，通常来说，科学发现是一个非常嘈杂的过程。仪器会漂移，操作员会即兴发挥，“协议”往往部分地存在于人们的脑海中。干净结果和失败运行之间的差异可能是一个移液角度、一个旋转模式、一个试剂替换或一个长达 10 分钟的孵化。这些上下文细节很少出现在论文中，它们正是人工智能模型需要的，如果它要超越数据集的话。

这就是为什么实验室级别的人工智能需要眼睛（来感知上下文中发生了什么），需要手（来标准化和自动化高变异步骤），需要记忆（来记录实际发生了什么）。没有这些能力，模型可以推荐要做什么，但不能可靠地将推荐转化为验证的物理执行或解释当现实与计划偏离时的失败。

超越聊天机器人：从副驾驶到协同科学家

“代理人工智能”这个术语有时被松散地使用。在生物医学环境中，它应该意味着某种具体的东西：一个可以接受目标（例如“优化 CRISPR 基因编辑效率，同时最小化非目标位点”）、将其分解为一系列任务、执行这些任务、评估结果并在约束和可审计的决策下适应计划的系统。

这很重要，因为研究工作流程不是单个模型调用。它们是从假设制定、实验设计、数据处理、统计测试到解释的端到端管道。最近在药物发现方面的思考开始强调代理系统，可以扩展这些管道，而不仅仅是加速单个步骤（例如 Unite.AI 关于小分子药物发现中的代理的讨论）。

在软件工程中，我们已经看到了早期的实证证据，即人工智能副驾驶可以增加开发人员的生产力。在生物医学领域，类似的机会不仅仅是编写代码，而是编写和验证协议、结构化数据、监测执行和关闭预测与测量之间的循环，将人工智能连接到实验室中的人类科学家。

LabOS：当人工智能运行在实验室的操作系统上

在我们斯坦福大学关于 AI4Science 的工作中，涵盖基因编辑副驾驶，如 CRISPR-GPT 和 AI-XR 协同执行系统，如 LabOS，它们帮助生物医学和材料科学实验室的科学家，我们正在探索一个架构上的转变：

1. 设计一个端到端的“实验室操作系统”，将数字（干）实验室连接到物理（湿）实验室。

前提很简单：如果实验室笔记本是科学的记忆，那么实验室操作系统应该是执行层，捕获意图，翻译成行动，观察结果，并将每次运行转化为结构化的知识。

图：LabOS 将自我演化的数字实验室循环（规划、编码、批评、工具构建）与人类-人工智能湿实验室循环（自动文档、知识捕获、XR 指导和机器人集成）连接起来的概念视图。

2. 数字实验室中的人工智能 – 自我演化的规划和工具构建

在数字（干）实验室中，我们可以让人工智能做它已经擅长的事情：搜索、综合和提议。但我们也希望它能够自我改进。不是通过“编造新的科学”，而是通过从反馈中学习更好的工具和工作流程。

一个实用的数字实验室循环可以被框定为四个反复出现的阶段：

  • 规划（假设 + 设计）：提出假设，选择实验变量，预测混杂因素，并指定可衡量的端点。
  • 编码（实现）：生成或适应分析脚本、模拟管道和仪器控制模板（如果适用）。
  • 批评代理（推理 + 评估）：压力测试假设，检查统计权力，提出控制，标记可能的失败模式。
  • 工具创建（搜索 + 开发）：当工作流程缺乏一个组件（解析器、QC例行程序、仪表板）时，构建它并将其添加回工具包中。

3. 物理实验室中的人工智能 – 具有“眼睛”（XR 眼镜）和“手”（机器人）的人工智能

物理（湿）实验室是系统要么赢得信任，要么失去信任的地方。目标不是取代科学家，而是减少摩擦和错误，同时增加可观察性。

我们将物理实验室循环视为四个互补的能力：

  • 自动记录和文档：自动捕获操作、时间戳、仪器设置和偏差，因此文档不是事后补充的内容。
  • 快速、可重复的执行知识捕获：将运行转化为结构化、可查询的工件（协议版本、参数集、QC 结果），与数据管理原则（如 FAIR）保持一致。
  • 通过 XR 智能眼镜进行实时视觉语言指导：使用多模态模型解释场景（操作员正在做什么、哪个试剂在手中），并提供逐步指导和安全检查。AR/XR 已经在高风险的物理工作流程中（如实验指导）展示了其价值（LabOS、斯坦福大学、普林斯顿大学，与 NVIDIA 合作）。
  • 协同机器人/机器人集成用于自动化：标准化重复步骤、实现安全交接、减少变异性。用于模拟到实时工作流程的平台（例如 NVIDIA Isaac）和边缘实时人工智能处理（如 LabOS 中的智能眼镜实时流媒体和人类-人工智能交互）是重要的启用层。

这种架构符合该领域更广泛的方向：“自主”或自动化实验室，将自动化与机器学习相结合，以规划下一个实验。LabOS 添加了一个更紧密的人机接口层，因此自治不会以透明度为代价。

为什么实验室级别的人工智能不仅仅是“数据集上的人工智能”

人工智能系统用于生物医学/科学超级智能通常在回顾性评估或参加考试时看起来令人印象深刻，然后在物理实验室中表现不佳。原因很少是单个 bug。通常是模型的假设与实验室的现实之间的差距。

三个差距反复出现：

  • 上下文差距：数据集通常省略操作员知道很重要的上下文变量（温度偏差、试剂批号、微妙的协议偏差）。
  • 行动差距：许多人工智能系统可以推荐要做什么，但不能可靠地将推荐转化为验证的物理步骤。
  • 反馈差距：没有结构化、高质量的执行反馈，模型无法学习它们在哪里失败——科学家也无法审计为什么。

关闭这些差距不仅仅是关于发明新的神经网络架构，而是关于构建使实验室对机器可读的仪器、接口和数据合同，并允许人工智能与人类合作。

设计中的信任：能够采取行动的人工智能的安全性和治理

代理人工智能在发现研究中不仅仅引发了人们对准确性的熟悉担忧。它引入了新的故障模式，因为它可以采取行动。在实验室中，行动意味着浪费、危害或误导性结论的可能性，特别是当实验为临床假设提供依据时。

一个有用的思维方式是将人工智能启用的实验室栈视为需要保证的社会技术系统。几个现有的框架可以帮助，但它们必须转化为实验室现实：

  • 风险管理作为持续的实践：NIST 的人工智能风险管理框架（AI RMF 1.0）提供了一个实用的词汇来映射、测量和管理人工智能风险的整个生命周期。
  • 医疗相关人工智能的监管对齐：FDA 的人工智能/机器学习软件作为医疗设备（SaMD）工作，包括其行动计划和相关指南，提供了“良好实践”的具体视图，当人工智能影响患者护理时。

对于基因编辑和其他高后果领域，治理已经成为一个全球性的讨论。关于人类基因组编辑的建议正在被讨论，以强调适当的监督机制和负责任的治理的必要性，例如美国基因和细胞治疗学会（ASGCT）提出的建议。像 LabOS 这样的系统应该被设计为使遵守规定变得更容易，而不是更难。

清单：安全人工智能协同科学家的控制措施

在我们看来，安全意识的实验室操作系统应该至少实施以下设计：

  • 默认的来源：每个数据集、协议版本和模型输出都应可追溯到输入和时间戳。
  • 有界限的自治：系统应该具有明确的权限（无需确认可以做什么）和升级规则（何时必须询问）。
  • 人类覆盖和优雅退化：当传感器或数据流失败或不确定性高时，系统应该退回到更安全、更简单的模式。
  • 持续验证：在计算机中预测应与物理实验室验证配对；物理实验室运行应包括在预测传播到数字世界中的人工智能模型/代理之前的 QC 阀门。
  • 安全性和双重使用意识：保护实验室基础设施免受篡改。

赋予人类力量：人工智能协同科学家能否让比赛更加公平？

人工智能-XR“协同科学家”最有说服力的承诺之一不是仅仅是精英机构的速度，而是对每个人的可访问性。考虑一下目前限制较小的实验室、初创公司和偏远/农村/地区诊所：

  • 对高标准协议和仪器的专家知识的有限访问。
  • 相对较高的培训、错误和返工成本。
  • 工具的碎片化：笔记本、电子表格、仪器日志和分析脚本很少干净地连接起来。

一个可以在上下文中指导执行（通过 XR 眼镜）、自动捕获发生了什么并根据先前的运行建议下一步骤的系统可以使高级测定在不同站点上更可重复。在原则上，它还可以支持分布式临床研究，协议必须在资源不同时一致地执行。

时间表：每个科学家和临床医生何时都会得到一个协同科学家？

简而言之，我们比很多人想象的更接近一些高价值、高频率的任务（例如可靠地在实验室中生产一种药物），但对于其他任务（例如人工智能完全解决像癌症或阿尔茨海默病这样的大问题），我们距离目标还很远。一个现实的路线图看起来像这样：

  1. 近期（1 年内）：工作流程副驾驶，减少行政负担：协议草拟、文献综合、分析模板和自动 QC 报告。限制因素是集成，而不是模型能力。
  2. 中期（1-2 年）：实验室中的协同执行系统：XR 眼镜指导、自动文档和针对高变异步骤的选择性机器人。信任将取决于审计跟踪和紧密的人机集成设计。
  3. 长期（3+ 年）：连接发现和转化的跨领域协同研究人员：将实验室数据链接到临床端点、监测安全信号并帮助设计试验，同时遵守监管和道德期望。

从代码到治愈：通往 1000 倍科学发现的道路

LabOS 是回答一个简单问题的尝试：如果实验可以像人类和机器之间的对话一样运行，意图、执行和证据如何连接起来？如果我们构建这些系统，我们可以帮助解决阻碍生物医学和许多物理科学学科的转化差距。如果我们构建它们很糟糕，它们将放大不可重复性并制造新的安全风险。

未来几年的最重要工作将是基础性的：通过构建操作系统（就像 iOS 运行所有类型的应用程序一样），构建包括执行和不确定性（如 LabOS 中的 LabSuperVision 基准）的人工智能基准，并开始在现实世界中部署它，以鼓励创新同时保护患者和研究诚信。

对于研究人员和临床医生来说，问题不是人工智能是否会进入实验室。它已经进入了。问题是我们是否将其集成为一套不连接的工具，还是作为一个值得信赖、可审计的系统，专门为生物医学科学的现实而设计的。

建议阅读和来源

mm

Le Cong, PhD, 是斯坦福大学病理学和遗传学的副教授，他的团队开发了AI原生基因工程和AI-XR-机器人系统，将数字实验室推理与物理实验室执行相连接，以赋予人类在科学发现中的力量。