Scaleout Systems 的 CEO 和联合创始人 Andreas Hellander – 采访系列

Andreas Hellander 是 Scaleout Systems 的 CEO 和联合创始人，这是一家为边缘 AI 和联邦学习构建基础设施的公司，能够在分布式、敏感数据上训练模型而无需集中它们。他的公司曾与北约和国防公司如 BAE 系统合作。他拥有科学计算博士学位和生物技术工程硕士学位，并且是乌普萨拉大学的副教授，在创立 Scaleout 之前，他在信息技术系建立了最顶尖的研究小组之一。

您在乌普萨拉大学进行了多年的分布式计算、云基础设施和科学计算研究后联合创立了 Scaleout。是什么时候您意识到联邦学习和边缘 AI 需要超越学术界，成为一个商业平台的?

多年的分布式系统研究使得一件事变得越来越明显：当机器学习开始在各个行业显示出真正的潜力时，首先需要解决数据问题。对于许多组织来说，最有价值的数据根本无法集中在一起，无论是出于监管、实际还是安全原因。联邦学习作为一种研究应对这种限制的方法出现了。我们的联邦学习软件最初是乌普萨拉大学的一个研究原型，某个时候我们意识到时机成熟，可以进一步发展它。用于使机器学习对敏感数据安全可靠的基础设施在任何生产就绪形式中都不存在，我们觉得我们有条件去建设它。Scaleout 就是为了这个目的而成立的。

Scaleout 与 AI Verse 的合作将合成战场数据生成与边缘联邦学习相结合。您如何看待这项合作将改变军事 AI 系统的开发方式，相比传统的依赖集中式数据集的方法?

传统方法是收集作战录像，集中处理，训练，重新部署。每个阶段都引入了瓶颈。我们与 AI Verse 合作，后者是一家北约支持的合成数据公司，去除掉最初的障碍。AI Verse 的 GAIA 平台可以按需生成照片级、完全注释的红、绿、蓝（RGB）和红外（IR）图像，消除了现场采集、手动标注和长时间等待的需要。Scaleout 消除了训练阶段的瓶颈。一旦部署，模型可以从边缘实时数据中持续改进，而无需集中任何数据。综合效果是，组织可以从没有模型到部署改进的模型，而无需触摸受限制的作战数据。

军事 AI 中的一个最大挑战是战场条件的变化速度快于训练周期。边缘学习如何帮助军事系统适应新的无人机、车辆和威胁，而无需等待集中式重新训练?

计算机视觉用于反无人机和ISR 目前通常在集中式训练、部署一次，然后变得过时。集中式重新训练是一个批处理过程，涉及收集数据、标注、重新训练模型、测试，然后重新部署。这个周期需要数周或数月。与此同时，检测模型会因季节、传感器、环境和对手战术的变化而恶化。

边缘学习在源头关闭了这个循环。每个站点在实时传感器数据上运行实时检测，同时通过主动学习筛选出最有用的帧用于训练。测试场地上的一个地面节点遇到一种新型无人机，会标记出不确定的检测，标注员审查一个策划好的队列，而不是原始视频的数十个小时，局部微调在现场运行，改进后的模型在几天内重新投入生产。然后，联邦学习将这种改进传播到所有站点。

许多 AI 系统仍然严重依赖云基础设施。您为什么认为军事 AI 的未来将越来越多地转向分布式和断开连接的环境，而不是集中式云架构?

有三个结构性原因。首先，分类边界意味着作战传感器数据通常无法离开现场。其次，争议环境意味着网络连接无法被假设。最后，需要云连接才能运行的模型在需要它的环境中是一个单点故障。这些不是偏好，而是排除云优先架构的限制。

合成数据正在成为 AI 开发的重要工具。在军事应用中，准确性可能具有生死意义，使用合成战场数据训练计算机视觉模型的优势和局限性是什么?

合成数据提供了几个重要的优势。它可以生成在野外收集或不切实际的场景，例如罕见的威胁类别、红外线、不利条件和确切的传感器几何形状。它还消除了手动标注、作战数据风险，并且可以立即扩大规模。

与此同时，也存在局限性。合成到真实的差距是真实的，并且会根据场景而有所不同。决定威胁分类的细节可能无法转移，除非模拟保真度很高。诚实的立场是，合成数据是一个强大的冷启动机制，并且可以填补野外收集结构上无法填补的空白，但它不能替代实时作战数据来获得最终模型性能。这就是为什么管道同时结合了两者。

Scaleout 多年来一直在开发联邦学习技术，允许组织在不移动敏感数据的情况下训练 AI。来自医疗保健、工业 AI 和其他受监管部门的哪些经验现在在军事部署中被证明是有价值的?

当机器学习开始应用于受监管的行业时，一个共同的模式出现了。最能改进模型的数据也是无法移动的数据。

解决这个问题需要的不仅仅是高质量的算法，还需要使分布式学习安全、可审计和可治理的基础设施。这种工作表明了严格的审计跟踪的重要性，数据质量和选择的挑战，当你不能集中看到完整的数据集时，以及模型更新本身可能会泄露训练数据信息的可能性。后一个问题导致我们开发了 LeakPro，我们的开源隐私审计框架。敏感数据、分布式环境和治理要求的问题直接转移到国防领域，即使具体的限制不同。

北约和盟国越来越关注技术主权。您是否认为联邦学习将成为一种战略能力，允许盟国在不共享敏感作战数据的情况下合作开发 AI?

是的，这已经正在发生。北约 DIANA 下的 FEDAIR 计划直接测试了盟国是否可以在不交换分类传感器数据的情况下联合改进共享的 AI 能力。该架构的答案是肯定的。每个国家在自己的数据上训练，向共享聚合点贡献权重更新，并接收到改进的全局模型。没有原始数据跨越国家边界。

在这里，主权意味着不仅仅是数据保护。它意味着在整个 AI 生命周期中保持完全的控制，能够将任何模型部署到任何传感器流中，并使用您拥有的数据持续改进您的模型。这需要抵制锁定，包括空气间隙、完整的模型来源、供应商中立的传感器集成。这些属性是结构性的，而不是合同性的，这种区别在采购中很重要。

反无人机系统正在成为现代战争中最重要的 AI 应用之一。什么技术障碍仍需要克服，以便 AI 驱动的反无人机平台能够在多样化和快速变化的作战环境中可靠地运行?

从我们的角度来看，反无人机 AI 的技术挑战看起来很重要，也可能被低估。传感器景观本身就是复杂的。不同的传感器模式产生不同的数据特征，一个模型在一个模式上训练可能不能干净地转移到另一个模式上。威胁的多样性会加剧这个问题。低成本商用平台的普及意味着系统需要检测和分类的物体数量正在以比大多数训练数据集能够跟上的速度增长得更快。

除了纯粹的机器学习挑战之外，还有一个架构问题似乎很重要：谁拥有和控制模型，谁可以更新它？依赖于供应商封闭模型和更新周期的系统继承了供应商的限制。能够根据自己的作战数据、自己的基础设施和自己的时间表适应模型的能力，似乎是可靠的长期性能的前提条件，而不是一个可选功能。

随着战争越来越多地涉及自主系统和 AI 辅助决策，军事组织应该如何平衡在野外的持续学习与可靠性、可预测性和人工监督的需要?

该平台被设计为现有命令和控制系统的配套，而不是替代品。检测结果使用标准化的数据格式和协议输入到 TAK 和标准 C2 系统中，使其能够在现有的操作工作流中可视化和采取行动。AI 增强了人类的决策，而不是取代它。

在模型方面，持续并不意味着无控制。每次更新在推广之前都会经过基准套件的验证，操作员在部署到舰队之前批准模型版本，影子部署允许新版本在替换生产之前并行运行。审计跟踪记录了哪个版本在哪里运行以及显示了什么。改进周期是系统化和受治理的，而不是自动和不受控制的。

展望未来五年，什么将使最先进的军事 AI 架构与今天部署的架构区别开来，您认为哪些技术将对未来国防能力产生最大的影响?

当前的分界线在于系统是否可以在野外适应。今天部署的大多数系统都是静态的。在五年内，区别将在于如何管理适应。哪个版本的哪个模型在哪个平台上运行，受到哪些数据的影响，在什么条件下运行，以及是否可以由操作员和采购人员审计、验证和信任链。

底层的机器学习将变得商品化。但是，用于受治理的、边缘持续学习的基础设施，特别是在盟国网络中，每个国家必须保留其数据的主权，将不会变得商品化。现在建立这种基础设施的国家和计划将拥有复合优势：模型将从操作数据中持续改进，受国家控制，不依赖于任何供应商的更新周期或任何云提供商的可用性。

感谢您接受这次精彩的采访，希望了解更多的读者可以访问 Scaleout Systems。