什么是 Human-in-the-loop (HITL)？

当您处理人工智能（AI）和机器学习（ML）时，您可能会遇到一个术语，即人工在循环中（Human-in-the-loop，HITL）。它的意思就是像它听起来一样。HITL 是一种依赖于人类和机器智能来创建机器学习模型的 AI 分支。

人工在循环中的方法意味着人们参与算法的训练、调优和测试周期。

人类首先标记数据，这有助于模型实现高质量和大量的训练数据。然后，机器学习算法根据数据进行决策，之后人类开始对模型进行细化调整。

模型然后可以通过评分其输出来进行测试和验证。这种过程在算法不确定某个判断或算法过于自信地做出错误决策的情况下尤其有用。

HITL 过程是一个持续的反馈循环，这意味着训练、调优和测试任务中的每一个都被反馈到算法中。这种过程使算法随着时间的推移变得更加有效和准确，这对于创建特定用例的高精度和大量训练数据尤其有用。人类的洞察力有助于调整和测试模型，以便组织能够做出最准确和最有行动性的决策。

图片：斯坦福大学

HITL 机器学习的重要性

HITL 是一种非常重要的 AI 分支，因为传统的机器学习模型需要大量标记的数据点来实现准确的预测。当数据不足时，机器学习模型就不那么有用。

以语言学习为例。如果某种语言只由几千人使用，您想通过机器学习对这种语言有所了解，但可能很难找到足够的例子让模型从中学习。使用 HITL 方法，您可以确保这些数据集的准确性。

医疗保健行业也是 HITL 系统最重要的应用领域之一。斯坦福大学 2018 年的一项研究发现，HITL 模型比单独使用 AI 或人类更有效。

HITL 系统可以提高准确性，同时保持人类级别的标准，这对全球许多行业都很重要。

何时使用 HITL 系统

在 AI 生命周期中，有几个特定的时刻应该使用人工在循环中的机器学习：

• 训练: 数据科学家使用 HITL 的最常见地方是在训练阶段，人类提供标记的数据用于模型训练。

• 调优和测试: HITL 的另一个主要使用时机是在调优和测试阶段。人类调优模型以提高准确性，这在模型不确定时尤其重要。

需要注意的是，HITL 方法并不适合每个机器学习项目。它主要用于没有太多可用数据的情况下。

人工在循环中的深度学习用于人类和机器学习过程在某些场景中交互的情况，例如：算法不理解输入；数据输入被误解；算法不知道如何执行特定任务；机器学习模型需要更准确；人类组件需要更高效和准确；机器学习开发中的错误成本太高；以及所需的数据不可用。

HITL 的数据标记类型

HITL 方法可以用于各种类型的数据标记，具体取决于所需的数据集。例如，如果机器需要学习识别特定的形状，则使用边界框。但如果模型需要对图像的每个部分进行分类，则更喜欢分割。当涉及面部识别数据集时，通常使用面部标记。

另一个主要应用是文本分析，它使机器能够理解人类所说或所写的内容。由于人们使用不同的词语来表达相同的含义，AI 系统必须了解不同变体。进一步来说，情感分析可以识别特定词语或短语的语气。这些例子证明了为什么使用人工在循环中的方法非常重要。

为什么您的公司应该实施 HITL

如果您的业务希望安装 HITL 系统，一种常见的方法是使用自动化软件。已经有很多自动化软件围绕 HITL 方法构建，这意味着它已经将该过程纳入其中。

像这样的系统使公司能够立即实现高水平的性能并获得洞察力。机器学习系统已经在几乎每个行业中得到实施，这意味着开发人员必须确保这些系统在数据变化时仍能正常运行。

实施 HITL 系统到您的公司中有很多优势：

• 改进决策过程: HITL 系统通过提供透明度和一致性来改进公司的决策过程。它还通过在训练过程中包含人类反馈来保护免受偏见的影响。

• 更高效: HITL 系统通常被认为比传统的机器学习系统更高效。它们需要的训练和调优时间更短，这意味着它们更快地产生洞察力。

• 透明度: 人工在循环中的系统提供了对机器学习模型的更大透明度，包括它的工作原理以及为什么做出某种决定。可解释性和责任感是当今 AI 系统的基本方面，HITL 方法在这方面有很大帮助。

HITL 系统的挑战

人工在循环中的系统也提出了某些挑战，这些挑战应该被解决。首先，人类会犯错误，因此任何包含人类的系统都存在出错的风险。这可能会对系统的有效性产生重大影响。例如，如果人类在标记数据时犯了错误，那么同样的错误将会在整个系统中传播并可能引起未来的问题。

HITL 系统也可能很慢，因为人类参与了决策过程。AI 和 ML 的增长背后有一个主要原因，即机器比人类快得多，但这种速度并不总是能转化为 HITL 系统。

HITL 系统的另一个挑战是它们可能很昂贵。除了机器相关的成本外，业务还必须为人类劳动力预算。