面试
Daniel Ciolek，InvGate 研发主管 – 访谈系列
Daniel 是一位充满热情的 IT 专业人士，拥有超过 15 年的行业经验。他拥有博士学位。拥有计算机科学博士学位，并长期从事技术研究。他的兴趣涉及多个领域，例如人工智能、软件工程和高性能计算。
Daniel 是 InvGate 的研发主管，负责领导研发计划。他与产品和业务开发团队一起设计、实施和监控公司的研发战略。当他不做研究的时候，他就在教学。
InvGate 通过提供跨部门（从 IT 到设施）提供无缝服务的工具，为组织提供支持。
您何时以及如何开始对计算机科学产生兴趣？
我对计算机科学的兴趣可以追溯到我的童年时期。我总是对电子设备着迷，经常发现自己在探索并试图了解它们的工作原理。随着年龄的增长，这种好奇心引导我开始编码。我仍然记得编写第一个程序的乐趣。从那一刻起，我就毫无疑问地想从事计算机科学事业。
您目前正在领导研发计划并实施新颖的生成式人工智能应用程序。您能讨论一下您的一些工作吗？
绝对地。在我们的研发部门，我们处理复杂的问题，这些问题很难有效地表示和解决。我们的工作并不局限于生成式人工智能应用，但该领域的最新进展创造了我们渴望利用的大量机会。
InvGate 的主要目标之一始终是优化软件的可用性。我们通过监控它的使用方式、识别瓶颈并努力消除它们来做到这一点。我们经常遇到的瓶颈之一与自然语言的理解和利用有关。如果不使用大型语言模型 (LLM)，这是一个特别难以解决的问题。
然而，随着最近出现的具有成本效益的法学硕士，我们已经能够简化这些用例。我们现在的功能包括提供写作建议、自动起草知识库文章、总结大量文本以及许多其他基于语言的功能。
在 InvGate，您的团队采用了一种称为“不可知人工智能”的策略。您能否定义这意味着什么以及为什么它很重要？
不可知论人工智能从根本上讲是灵活性和适应性。从本质上讲，这是关于不致力于单一的人工智能模型或提供商。相反，我们的目标是保持我们的选择开放，利用每个人工智能提供商提供的最佳服务，同时避免被锁定在一个系统中的风险。
你可以这样想：我们应该使用 OpenAI 的 GPT、Google 的 Gemini 还是 Meta 的 Llama-2 来实现我们的生成 AI 功能？我们应该选择即用即付云部署、托管实例还是自托管部署？这些都不是微不足道的决定，随着新型号的发布和新提供商进入市场，它们甚至可能会随着时间的推移而发生变化。
不可知论的人工智能方法确保我们的系统始终做好适应的准备。我们的实现包含三个关键组件：接口、路由器和人工智能模型本身。该接口抽象了人工智能系统的实现细节，使我们软件的其他部分更容易与其交互。路由器根据请求类型和可用人工智能模型的功能等各种因素来决定将每个请求发送到哪里。最后，模型执行实际的人工智能任务，这可能需要自定义数据预处理和结果格式化过程。
您能否描述一下在为特定任务选择最合适的人工智能模型和提供商时指导决策过程的方法论方面？
对于我们开发的每个新功能，我们首先创建一个评估基准。该基准旨在评估不同人工智能模型解决手头任务的效率。但我们不仅仅关注性能，我们还考虑每个模型的速度和成本。这使我们能够全面了解每个模型的价值，使我们能够为路由请求选择最具成本效益的选项。
然而，我们的过程并没有结束。在快速发展的人工智能领域，新模型不断发布，现有模型定期更新。因此，每当有新的或更新的模型可用时，我们都会重新运行我们的评估基准。这让我们可以将新的或更新的模型的性能与我们当前选择的模型的性能进行比较。如果新模型优于当前模型，我们就会更新路由器模块以反映这一变化。
在各种人工智能模型和提供商之间无缝切换有哪些挑战？
在各种人工智能模型和提供商之间无缝切换确实带来了一系列独特的挑战。
首先，每个人工智能提供商都需要以特定方式格式化的输入，并且人工智能模型可以对相同的请求做出不同的反应。这意味着我们需要针对每个模型进行单独优化，考虑到选项的多样性，这可能会非常复杂。
其次，人工智能模型具有不同的能力。例如，某些模型可以生成 JSON 格式的输出，这一功能在我们的许多实现中证明是有用的。其他人可以处理大量文本，使我们能够使用更全面的上下文来完成某些任务。管理这些功能以最大限度地发挥每个模型的潜力是我们工作的重要组成部分。
最后，我们需要确保人工智能生成的响应可以安全使用。生成式人工智能模型有时会产生“幻觉”，或者生成错误的、断章取义的、甚至可能有害的响应。为了缓解这种情况，我们实施严格的后处理净化过滤器来检测和过滤掉不适当的响应。
如何在不可知的人工智能系统中设计界面，以确保它有效地抽象出底层人工智能技术的复杂性，以实现用户友好的交互？
我们界面的设计是研发和工程团队之间的协作努力。我们逐个功能地工作，定义每个功能的要求和可用数据。然后，我们设计一个与产品无缝集成的 API，并在我们的内部 AI 服务中实现它。这使得工程团队能够专注于业务逻辑，而我们的人工智能服务则可以处理与不同人工智能提供商打交道的复杂性。
这个过程并不依赖于尖端研究，而是依赖于经过验证的软件工程实践的应用。
考虑到全球运营，InvGate 如何应对区域可用性和遵守当地数据法规的挑战？
确保区域可用性并遵守当地数据法规是我们 InvGate 运营的重要组成部分。我们精心挑选的人工智能提供商不仅能够大规模运营，而且能够维护最高的安全标准并遵守地区法规。
例如，我们只考虑遵守欧盟《通用数据保护条例》(GDPR) 等法规的提供商。这确保了我们可以在不同地区安全地部署我们的服务，并确信我们是在当地法律框架内运营的。
AWS、Azure 和 Google Cloud 等主要云提供商满足这些要求并提供广泛的 AI 功能，使它们成为我们全球运营的合适合作伙伴。此外，我们持续监控当地数据法规的变化，以确保持续合规，并根据需要调整我们的做法。
在过去十年中，InvGate 开发 IT 解决方案的方法有何演变，特别是在生成式 AI 的集成方面？
在过去十年中，InvGate 开发 IT 解决方案的方法发生了显着变化。我们通过自动化工作流程、设备发现和配置管理数据库 (CMDB) 等高级功能扩展了我们的功能库。这些功能极大地简化了用户的 IT 操作。
最近，我们开始将 GenAI 集成到我们的产品中。这要归功于法学硕士提供商最近的进步，他们已经开始提供具有成本效益的解决方案。 GenAI 的集成使我们能够通过人工智能的支持来增强我们的产品，使我们的解决方案更加高效和用户友好。
虽然现在还处于早期阶段，但我们预测人工智能将成为 IT 运营中无处不在的工具。因此，我们计划通过进一步整合人工智能技术来继续发展我们的产品。
您能否解释一下 AI Hub 中的生成式 AI 如何提高对常见 IT 事件的响应速度和质量？
我们的 AI 中心内的生成式 AI 显着提高了对常见 IT 事件的响应速度和质量。它通过一个多步骤过程来做到这一点：
初次接触：当用户遇到问题时，他或她可以与我们的人工智能虚拟代理 (VA) 进行聊天并描述问题。 VA 自主搜索公司的知识库 (KB) 和 IT 故障排除指南公共数据库，以对话方式提供指导。这通常可以快速有效地解决问题。
票证创建：如果问题比较复杂，VA 可以创建票证，自动从对话中提取相关信息。
票证分配：系统根据故障单的类别、优先级以及客服人员处理类似问题的经验将故障单分配给支持客服人员。
代理交互：代理可以联系用户以获取更多信息或通知他们问题已解决。人工智能增强了互动，提供写作建议以改善沟通。
升级：如果问题需要升级，自动汇总功能可以帮助管理人员快速了解问题。
事后分析：票证关闭后，人工智能会执行根本原因分析，协助事后分析和报告。代理还可以使用人工智能起草知识库文章，方便将来解决类似问题。
虽然我们已经实现了大部分功能，但我们仍在不断努力进一步增强和改进。
随着更智能的 MS Teams 虚拟代理等即将推出的功能的推出，对话支持体验的预期增强是什么？
一条有希望的前进道路是将对话体验扩展到“副驾驶”，不仅能够回答问题并采取简单的行动，而且还能够代表用户采取更复杂的行动。这对于提高用户的自助服务能力以及为代理提供额外的强大工具很有用。最终，这些强大的对话界面将使人工智能成为无处不在的伴侣。
感谢您的精彩采访，想要了解更多信息的读者可以访问 InvGate.
