迪夫普兰公司的联合创始人兼首席执行官迈克·卡普斯 – 采访系列

迈克尔·卡普斯博士是一位知名的技术专家和迪夫普兰公司的首席执行官。在联合创立迪夫普兰之前，迈克曾在游戏行业担任史诗游戏公司的总裁，史诗游戏公司是《堡垒之夜》和《战争机器》等热门游戏的开发商。他的任期内，公司获得了数百个年度游戏奖项，发表了数十篇会议主题演讲，获得了终身成就奖，并在美国最高法院成功为游戏行业辩护。

迪夫普兰 提供了跨多个行业的AI驱动的商业解决方案。凭借六项专利获得批准和多项待批专利，迪夫普兰的可理解AI提供了对AI政策和数据隐私策略的完全理解和决策透明度。

您从游戏行业的成功职业生涯中退休，是什么启发您重新从事AI领域的工作？

制作游戏很有趣，但至少在那时，它不是一个理想的职业，尤其是当我有了新家庭的时候。我通过担任董事和顾问角色保持忙碌，但这并不能带来满足感。所以，我列出了三个我可以解决的世界性问题，并决定花一年时间研究每个问题——其中包括黑盒式AI系统的普遍存在。我的计划是花一年时间研究每个问题，但几周后，我的聪明的朋友克里斯·哈泽德告诉我，他已经秘密地开发了一种透明的、完全可解释的AI平台。于是，我们就有了现在的成果。

迪夫普兰的使命是将人性带入AI，能否具体解释一下这意味着什么？

这里，我们使用“人性”来指“人道”或“同情心”。为了确保AI模型中包含人类的最佳品质，您不能只是训练、测试，然后希望一切都没问题。我们需要仔细审查输入数据、模型本身和模型的输出，并确保它反映了人类的最佳品质。大多数使用历史或现实数据训练的系统不会在第一次尝试中就正确，并且它们不一定是无偏见的。我们相信，消除模型中的偏见（包括统计错误和偏见）的唯一方法是透明度、可审计性和人类可理解的解释的结合。

迪夫普兰的核心技术被称为反应堆（REACTOR），是什么使得它成为一种新颖的方法来使机器学习可解释？

机器学习通常涉及使用数据构建一个模型来做出特定类型的决策。决策可能包括为车辆转向的角度、是否批准或拒绝购买或将其标记为欺诈、或推荐哪种产品给某人。如果您想了解模型如何做出决策，通常需要问它很多类似的决策，然后尝试再次预测模型本身可能会做什么。机器学习技术要么在提供的见解类型上受到限制，要么受到实际上反映模型做出决策的能力的限制，要么具有较低的准确性。

使用反应堆（REACTOR）则不同。反应堆（REACTOR）表征您的数据的不确定性，您的数据成为模型。您不需要为每种决策类型构建一个模型，您只需要问反应堆（REACTOR）您想让它做出什么决策——它可以与数据相关的任何内容。反应堆（REACTOR）始终可以向您展示它使用的数据、数据如何与答案相关、不确定性的每个方面、反事实推理以及您可能想要问的任何其他问题。由于数据是模型，因此您可以编辑数据，反应堆（REACTOR）将立即更新。它可以向您展示是否有任何异常数据用于决策，并追踪对数据和其来源的每个编辑。反应堆（REACTOR）使用概率理论，意味着我们可以告诉您其每个部分的测量单位。最后，您可以使用导致决策的数据和不确定性来重现和验证任何决策，使用相对简单的数学方法，无需反应堆（REACTOR）。反应堆（REACTOR）能够在保持高度竞争性准确性的同时执行所有这些操作，尤其适用于小型和稀疏数据集。

GEMINAI 是一种产品，用于构建数据集的数字孪生体，这具体意味着什么，以及它如何确保数据隐私？

当您将数据集输入GEMINAI时，它会对该数据的统计形状有深入的了解。您可以使用它来创建一个合成的孪生体，类似于原始数据的结构，但所有记录都是新创建的。统计形状是相同的。例如，原始数据集和合成数据集中的患者心率平均值将几乎相同，所有其他统计数据也将相同。因此，使用孪生体进行的任何数据分析都将给出与原始数据相同的答案，包括训练机器学习模型。如果原始数据中有某人的记录，则合成孪生体中将没有该人的记录。我们不仅仅是删除名称——我们确保没有新记录与原始数据集中的记录（以及所有其他记录）在信息空间中“接近”。即，没有一个记录在原始集和合成集中都可识别。这样，合成数据集就可以更自由地共享，而无需担心不当共享机密信息。无论是个人财务交易、患者健康信息、机密数据， 只要数据的统计信息不机密，合成孪生体就不是机密的。

为什么GEMINAI比使用差分隐私更好？

差分隐私是一组技术，用于限制任何个体影响统计数据的概率，并且是几乎任何数据隐私解决方案的基本组成部分。然而，当仅使用差分隐私时，需要管理数据的隐私预算，并为每个查询添加足够的噪音。一旦使用了预算，数据就不能再被使用，而不冒着隐私风险。

一种方法是将整个隐私预算一次性应用于训练机器学习模型以生成合成数据。该想法是，这个使用差分隐私训练的模型可以相对安全地使用。然而，正确应用差分隐私可能很棘手，尤其是当存在不同个体的不同数据量以及更复杂的关系时，例如同一户口的人。并且，使用这种模型生成的合成数据可能会包含偶然的真实数据，这可能会使个人声称这些数据是自己的，因为它们太相似了。

GEMINAI 通过在合成数据时结合多种隐私技术来解决这些问题。它使用了一种适用于各种数据类型的实用差分隐私形式。它建立在我们的反应堆（REACTOR）引擎之上，因此它还知道数据的任何部分可能被混淆的概率，并合成数据以确保它始终与原始数据有足够的差异。此外，它将每个字段、每个数据都视为潜在的敏感或识别信息，并为传统上不被认为是敏感的字段（例如24小时便利店中2点至3点之间的唯一交易）应用实用差分隐私形式。我们经常将其称为隐私交叉切割。GEMINAI能够实现几乎所有用途的高准确性，看起来与原始数据相同，但防止任何人找到与原始数据太相似的合成数据。

迪夫普兰在数据与信任联盟的共同创立中发挥了重要作用，这个联盟是什么？

这是一个由技术公司首席执行官组成的绝佳团体，他们正在合作开发和采用负责任的数据和AI实践。世界级的组织，如IBM、强生、万事达卡、UPS、沃尔玛和迪夫普兰，我们为能够参与早期阶段和我们共同完成的工作感到自豪。

迪夫普兰最近成功完成了A轮融资，这将如何影响公司的未来？

我们很幸运能够在企业项目中取得成功，但一次性改变世界是很困难的。我们将利用这笔资金来扩建团队、传播我们的信息，并将可理解的AI推广到尽可能多的地方！

您是否还有其他关于迪夫普兰的信息想要分享？

迪夫普兰致力于确保AI以正确的方式发展。我们致力于公平、透明和可理解的AI，主动展示驱动决策的因素，并远离AI中的“黑盒”思维，这种思维可能是不公平的、不道德的和有偏见的。我们相信可解释性是AI的未来，我们很高兴能够在推动它发展中发挥关键作用！

感谢这次精彩的采访，希望了解更多的读者可以访问迪夫普兰。

(MA ) (WMT )