Daniel Ciolek，InvGate 研发部负责人 – 采访系列

Daniel 是一位充满热情的 IT 专业人士，拥有超过 15 年的行业经验。他拥有计算机科学博士学位，并在技术研究方面有着长期的职业生涯。他的兴趣领域包括人工智能、软件工程和高性能计算。

Daniel 是 InvGate 的研发部负责人，他领导着研发工作。他与产品和业务开发团队合作，设计、实施和监控公司的研发战略。当他不进行研究时，他在教学。

InvGate 通过提供跨部门的无缝服务工具来赋予组织力量，从 IT 到设施管理。

您最初是如何对计算机科学产生兴趣的？

我的计算机科学兴趣可以追溯到我的童年时期。我一直对电子设备着迷，经常尝试去理解它们的工作原理。随着我长大，这种好奇心让我开始编程。我仍然记得写我的第一个程序时的乐趣。从那时起，我就没有任何疑问，我想在计算机科学领域追求职业生涯。

您目前正在领导研发工作，并实施新的生成式人工智能应用。可以讨论一些您的工作吗？

当然。在我们的研发部门，我们处理复杂的问题，这些问题可能很难用传统方法高效地表示和解决。我们的工作并不局限于生成式人工智能应用，但最近在这个领域的进展为我们提供了许多机会，我们渴望利用这些机会。

我们在 InvGate 的主要目标之一始终是优化软件的可用性。我们通过监控软件的使用情况、识别瓶颈并努力消除这些瓶颈来实现这一目标。我们经常遇到的一个瓶颈与自然语言的理解和利用有关，这个问题在没有大型语言模型（LLM）的情况下很难解决。

然而，随着成本有效的 LLM 的出现，我们能够简化这些用例。我们的能力现在包括提供写作建议、自动编写知识库文章和总结大量文本等语言功能。

InvGate 的“中立人工智能”策略是什么？可以解释一下吗？

中立人工智能的核心是灵活性和适应性。基本上，这意味着我们不致力于单一的人工智能模型或提供商。相反，我们保持开放的选择，利用每个人工智能提供商的最佳功能，同时避免被锁定在一个系统中的风险。

您可以这样思考：我们应该使用 OpenAI 的 GPT、Google 的 Gemini 还是 Meta 的 Llama-2 来实现我们的生成式人工智能功能？我们应该选择按使用量付费的云部署、托管实例还是自托管部署？这些不是琐碎的决定，它们可能会随着时间的推移而改变，因为新的模型发布和新的提供商进入市场。

中立人工智能方法确保我们的系统始终准备好适应。我们的实现有三个关键组件：接口、路由器和人工智能模型本身。接口抽象掉了人工智能系统的实现细节，使得其他软件部分更容易与之交互。路由器根据各种因素（如请求类型和可用人工智能模型的功能）决定将每个请求发送到哪里。最后，模型执行实际的人工智能任务，这可能需要自定义数据预处理和结果格式化过程。

可以描述一下在选择最合适的人工智能模型和提供商时的决策过程吗？

对于我们开发的每个新功能，我们首先创建一个评估基准。这个基准旨在评估不同人工智能模型在解决特定任务方面的效率。但我们不仅仅关注性能，我们还考虑每个模型的速度和成本。这给了我们对每个模型价值的全面了解，允许我们选择最具成本效益的选项来路由请求。

然而，我们的过程并没有就此结束。在人工智能领域快速发展的背景下，新模型不断发布，现有模型也会定期更新。因此，每当新模型或更新的模型可用时，我们都会重新运行我们的评估基准。这使我们能够比较新模型或更新模型的性能与我们当前选择的性能。如果新模型的性能更好，我们会更新我们的路由器模块以反映这一变化。

在无缝切换各种人工智能模型和提供商时，会遇到哪些挑战？

无缝切换各种人工智能模型和提供商确实带来了独特的挑战。

首先，每个人工智能提供商都需要以特定的格式输入数据，人工智能模型对相同的请求可能会有不同的反应。这意味着我们需要为每个模型进行优化，这可能相当复杂，考虑到有这么多选项。

其次，人工智能模型具有不同的功能。例如，一些模型可以以 JSON 格式输出，这在我们许多实现中都很有用。其他模型可以处理大量文本，使我们能够在某些任务中使用更全面的上下文。管理这些功能以最大限度地发挥每个模型的潜力是我们工作的一个重要部分。

最后，我们需要确保人工智能生成的响应是安全的。生成式人工智能模型有时会产生“幻觉”，或生成虚假、脱离上下文甚至可能有害的响应。为了减轻这一点，我们实施了严格的后处理过滤器来检测和过滤不适当的响应。

如何设计中立人工智能系统的接口，以确保它有效地抽象掉底层人工智能技术的复杂性，为用户提供友好的交互体验？

我们的接口设计是研发团队和工程团队之间的协作工作。我们以功能为基础，定义每个功能的要求和可用数据。然后，我们设计一个 API，与产品无缝集成，实现我们的内部人工智能服务。这使得工程团队能够专注于业务逻辑，而我们的人工智能服务处理与不同人工智能提供商交互的复杂性。

这个过程并不依赖于最前沿的研究，而是应用成熟的软件工程实践。

考虑到全球运营，InvGate 如何处理区域可用性和遵守当地数据法规的挑战？

确保区域可用性和遵守当地数据法规是 InvGate 运营的关键部分。我们仔细选择能够在规模上运作并且符合最高安全标准和遵守区域法规的人工智能提供商。

例如，我们只考虑符合欧盟通用数据保护条例（GDPR）等法规的提供商。这确保我们可以在不同地区安全地部署我们的服务，并且有信心我们正在遵守当地的法律框架。

主要的云提供商，如 AWS、Azure 和 Google Cloud，满足这些要求，并提供广泛的人工智能功能，使他们成为我们全球运营的合适合作伙伴。此外，我们不断监测当地数据法规的变化，以确保持续的遵守，并根据需要调整我们的做法。

过去十年中，InvGate 开发 IT 解决方案的方法如何演变，特别是在集成生成式人工智能方面？

过去十年中，InvGate 开发 IT 解决方案的方法已经发生了显著的变化。我们扩展了我们的功能，包括自动化工作流、设备发现和配置管理数据库（CMDB）等高级功能。这些功能极大地简化了我们的用户的 IT 运营。

最近，我们开始将生成式人工智能集成到我们的产品中。这得益于最近在大型语言模型提供商方面的进展，他们开始提供成本有效的解决方案。生成式人工智能的集成使我们能够增强我们的产品，提供人工智能驱动的支持，使我们的解决方案更加高效和用户友好。

虽然现在还处于初期阶段，但我们预测人工智能将成为 IT 运营中的一种无处不在的工具。因此，我们计划继续通过进一步集成人工智能技术来发展我们的产品。

可以解释一下 AI 中心的生成式人工智能如何提高对常见 IT 事件的响应速度和质量吗？

AI 中心的生成式人工智能显著提高了对常见 IT 事件的响应速度和质量。它通过以下多步骤过程实现这一点：

初始联系：当用户遇到问题时，他们可以打开与我们的 AI 驱动的虚拟代理（VA）聊天，并描述问题。VA 自动搜索公司的知识库（KB）和公共 IT 故障排除指南数据库，以对话方式提供指导。这通常可以快速高效地解决问题。

工单创建：如果问题更复杂，VA 可以创建工单，自动从对话中提取相关信息。

工单分配：系统根据工单的类别、优先级和代理处理类似问题的经验，将工单分配给支持代理。

代理交互：代理可以联系用户以获取更多信息或通知他们问题已解决。交互通过人工智能增强，提供写作建议以改善沟通。

升级：如果问题需要升级，自动总结功能可以帮助经理快速了解问题。

事后分析：工单关闭后，人工智能执行根因分析，帮助事后分析和报告。代理也可以使用人工智能来编写知识库文章，促进类似问题的解决。

虽然我们已经实施了大部分功能，但我们仍在不断地改进和增强。

随着即将推出的功能，如更智能的 MS Teams 虚拟代理，会对对话式支持体验带来哪些预期的增强？

一个有前途的发展方向是将对话式体验扩展为“副驾驶”，不仅能够回答问题和执行简单的操作，还能够代表用户执行更复杂的操作。这可能有助于提高用户的自助服务能力，并为代理提供额外的强大工具。最终，这些强大的对话式接口将使人工智能成为无处不在的伴侣。

感谢这次精彩的采访，希望了解更多的读者可以访问 InvGate。