Ali Ansari，micro1 创始人兼首席执行官——访谈系列

Ali Ansari 是 micro1 的创始人兼首席执行官，专注于将人类专业知识转化为训练数据和评估材料，用于开发先进的人工智能系统。他的创业经历包括创办一家软件开发机构，以及在 2022 年推出 micro1 之前创立 peerlinc。他曾在加州大学伯克利分校和斯坦福大学学习计算机科学，研究方向为强化学习；如今，他致力于打造相关系统，以寻找、评估并协调专家为人工智能开发所作的贡献。

micro1 是一家数据实验室，借助专家的人类参与和真实的工作环境，帮助训练前沿人工智能模型并评估人工智能智能体。其平台整合了专业人才招募、数据生产、质量审核和模型评估，覆盖法律、医疗保健、金融、工程和科学等领域。在这次访谈中，Ansari 谈到了人类专业知识需求增长的原因、运营数据如何支持强化学习，以及人工智能训练和评估领域正在涌现的职业机会。

你在创立并出售 peerlinc 后，于 2022 年创办了 micro1。你最初想解决什么问题？micro1 后来又是如何发展成为一家专注于训练和评估前沿人工智能模型的公司的？

最初，这源于我自己业务中遇到的一个问题。当时我经营着一家软件开发机构，每接一个新项目，都意味着要寻找并面试更多工程师。我为此花了大量时间。于是，我们打造了一款人工智能面试官 Zara 来帮忙，后来它就发展成了 micro1。

我们最初销售招聘软件，并搭建了一个经过筛选的人才市场。后来，有一位客户找上门来，需要数百名工程师来训练人工智能模型。我们开始深入探究他们为何需要这么多人，并意识到模型开发背后对人类专业知识的需求极其庞大。

此前，我们已经花了多年时间，建立起大规模寻找和筛选人才的能力。人类数据是这套基础设施极具价值的一种应用。因此，我们全力投入其中，利用自己的人工智能招聘工具寻找并筛选专家人才，并围绕这一工作搭建了其他数据平台和质量体系。如今，我们帮助实验室将这些专业知识转化为更强的模型能力。

你曾指出，随着人工智能模型能力不断增强，对人类专业知识的需求实际上在增长，而不是消失。这种关系背后的驱动因素是什么？

这里面有几个因素。首先，模型越强大，我们就越会要求它们完成更难的任务。能够回答问题的模型很有用；能够承担完整工作流程的模型则有用得多，但要实现这一点，就需要更多专家参与。

其次，人类一直在创造新的工作。如果律师能用人工智能处理日常工作中的许多事务，他们就有更多时间应对更复杂的问题，或为客户开发新服务。这些全新的职能随后也会成为我们希望提炼进模型的内容。这就是我们所说的“没有最后一公里”。工作会不断演变。

合成数据让这件事更有意思。我们可以用它扩展专家创建的任务和反馈，从而提升最初那部分人类输入的价值。我认为，正是这种组合让人类专业知识的需求随着模型能力的提升而持续增长。

micro1 与法律、医疗保健、金融、工程和科学等领域的专家合作。这些专业人士能为人工智能系统带来哪些无法仅从现有在线数据中学到的东西？

一个人成为优秀医生、律师或工程师，很大程度上靠的是他们在实际工作中积累的判断力。其中一部分经验有文字记录，但更多时候，它体现在他们如何处理特殊案例、发现信息缺失，或判断究竟哪个细节真正重要。

这对训练模型极有价值。专家可以设计有难度的任务，说明理想结果应该是什么样，并准确指出模型的不足之处。一个答案听起来可能非常有说服力，却依然会漏掉从业者最看重的关键点。

我们需要专家来作出这些区分，也需要多种视角和严格的审核流程，因为一个人的判断无法涵盖所有情况。我们的目标是将这些经验转化为模型可以学习的信号。每个领域内部还有大量细微差别。以法律专业知识为例，它并非单一不变：会因执业领域、州或司法管辖区，以及不同国家的法律体系而异。每一层都需要更专业的知识和判断力。其他领域及其众多细分领域也同样有着如此丰富的内涵，因此我们需要了解这些差异在实践中意味着什么的专家。

随着行业越来越关注后训练、强化学习和评估，你认为当下改进前沿模型面临的最大瓶颈是什么？

我认为，获取真实场景数据是最大的瓶颈之一。多年来，企业一直在解决问题、作出决策和处理例外情况；这些经验分散记录在它们的文档、系统和工作流程中。如果希望模型学会如何完成实际工作，这些经验就极具价值。

这就是我们设立公司数据合作计划（Company Data Partnerships，简称 CDP）的原因。我们付费向企业获取其运营数据的授权。这些数据可以包括内部文档、项目历史记录、客户关系管理（CRM）记录，以及人们完成工作时遵循的流程。对于有价值的企业数据集，我们支付的金额可超过200万美元，具体金额取决于数据本身和合作关系。

我们利用这些资料构建贴近现实的训练和评估环境。以处理客户问题为例：你可能需要查阅客户账户历史记录，找到相关政策，并判断应采取什么行动。围绕这一工作流程构建的环境，能让模型练习这些步骤。专家会定义任务，并制定评估任务是否成功完成的方式。正是这些反馈，让该环境能够用于强化学习。

企业仍保有其基础数据的所有权。我们会就数据的使用范围和处理要求达成一致，其中包括隐私保护措施，并根据预定用途整理数据。

这些记录所承载的经验才是真正的价值所在。CDP让企业能够从这些经验中获得收入，同时帮助模型在更贴近现实的环境中学习如何开展工作。

即使模型的能力显著提升，你认为哪些人类判断力或专业知识仍会特别难以被人工智能系统复制？

我认为，人类的品味和创造力是模型特别难以掌握的领域。原因又回到了我们如何创建训练数据。

对于许多任务，我们可以召集专家，让他们就何为优秀达成共识。这就为训练提供了有用的信号。但如果问人们什么样的图像才算出色、什么样的电影才算优秀，或者什么样的设计才有感染力，讨论得越多，他们的看法就越可能分歧。并非所有问题都能归结为一个共同认可的答案。

人工智能在这些领域仍能发挥很大作用。但决定你想创作什么、作品面向谁，以及它是否真正引起共鸣，都需要大量的人类判断。我认为，随着工具让创作变得更容易，这种判断力会愈发重要。

你看到越来越多专业人士开始把人工智能训练和评估视为严肃的专业工作，而不是兼职副业。这会发展成一个全新的就业类别吗？相关职业可能会是什么样子？

当然会。这已经是一个规模达数十亿美元的新兴工作类别。我们有各领域的专家运用职业生涯中积累的知识，帮助训练和评估人工智能。对一些人来说，这已成为其职业生活的重要组成部分。

这类工作本身可以有很高的专业深度。律师可能会设计一个复杂情境，并制定评估模型回答的标准。工程师可能会设计一项任务，让智能体完整走过一套软件工作流程。此外，还有人负责审核数据、改进评估标准，以及带领专家团队。这类工作也能让人们有更多空间，专注于当初吸引他们进入所在领域的事情。在大多数工作中，人们会把大量时间花在行政事务，以及那些与自己认为最有意义的工作无关的职责上。在自己的专业领域训练人工智能，可以让他们的专业知识成为工作核心：解决复杂问题、运用判断力，并分享经验带来的心得。这让他们有机会把更多时间花在自己重视且最擅长的事情上，同时帮助塑造人工智能处理这类工作的方式。

我认为，围绕这些工作，我们会看到真正的职业发展路径逐渐成形。你可以专门提升将领域专业知识转化为训练数据的能力，也可以专注于管理数据流水线并了解模型需要在哪些方面获得帮助。这些都是很有价值的技能，而我们才刚刚开始摸索这些岗位最终会是什么样子。

随着企业招聘医生、律师、工程师、科学家及其他领域的专家来改进人工智能模型，你们如何核实他们的专业能力，并确保最终生成的训练数据准确且一致？

我们围绕这项工作建立了一整套体系。首先是我们的人工智能招聘工具 Zara，它帮助我们寻找并审核具备项目所需技能的专家。之后，我们的 Merit 工具会持续追踪他们贡献的质量、速度和可靠性。我们既要了解一个人的专业能力，也要了解这些能力如何体现在他们产出的数据中。

我们的 flow 平台将专家的工作与我们开发的模型结合起来，为数据生成和审核提供支持。专家负责定义任务以及优秀成果的标准。随后，flow gen 会以这些初始内容为基础，扩展生成新的示例和变体。flow qc 会检查数据是否存在问题，例如缺少证据，或任务与其评分标准不匹配。flow grader 则会依据这些标准评估模型的表现。

关键在于专家发现错误后会发生什么。这项修正确实能改进训练数据，也能帮助我们改进生成器和质量检查机制本身。我们可以把反复出现的错误转化为下一版本的测试。

这就是我们正在打造的合成数据飞轮。人类的专业知识为我们提供起点和判断力。我们的工具帮助扩大规模，专家反馈则有助于改进下一轮流程。随后，我们会测试这些改动是否确实提升了模型性能。这正是这个循环的价值所在。

AI 智能体越来越需要执行复杂的多步骤任务，而不只是生成回答。训练和评估这类系统，与改进传统大型语言模型所需的工作有何不同？

最大的区别在于任务的长度。智能体可能需要在不同工具之间采取许多操作，才能取得有用的结果。它或许能出色地完成前几步，但由于错误不断累积，最终仍可能无法完成整个任务。

因此，我们需要让模型能够练习完整工作流程的环境，也需要能指出问题出在哪里的评估。它找到正确的信息了吗？它正确使用工具了吗？它最终实现了我们想要的结果吗？

此外，还要考虑具体公司的背景。在一家企业内部工作的智能体，需要了解该企业的流程和预期。通用能力终究有其局限。

这正是领域专家至关重要的原因。他们能帮助我们诊断问题，并创建用于改进智能体的数据。我们先进行评估、找出差距，再针对这些差距训练，然后再次评估。随着智能体承担更多工作，这一过程也会持续下去。

随着前沿模型的能力不断增强，它们所需的人类生成数据类型正在发生怎样的变化？你预计未来几年哪些专业知识或评估方式会变得格外重要？

有两点越来越重要：任务的持续时间，以及任务与现实世界的贴合程度。随着模型能力增强，有用的训练数据正转向更复杂的工作流程，其中包含更多决策、更多背景信息，也有更多出错的机会。

这使得运营方面的专业知识非常宝贵。一个多年从事某项工作的人，了解那些从外部设计任务时容易忽略的例外情况和依赖关系。他们也能判断智能体给出的结果在企业内部是否真的行得通。

我认为，随着时间推移，企业评估将成为一个规模巨大的市场，年规模可能达到一万亿美元。每一家部署智能体的公司都需要了解它们在哪些方面表现良好、在哪些方面会失败，以及如何改进。能够把自身知识转化为实用评估的人，将在其中发挥核心作用。这是一项持续存在的需求，因为公司、模型和工作都在不断变化。

有些专业人士实际上可能在帮助训练 AI 系统，让它们完成自己工作中的一部分。你如何看待这种矛盾？你认为未来三到五年，人类专业知识与 AI 之间会形成怎样的关系？

我认为，我们低估了人们拥有这些工具后会创造多少新工作。

以招聘为例。如果智能体能够承担更多初步筛选工作，招聘人员就能花更多时间与候选人建立关系，或设法吸引公司以前无法接触到的人才。他们的角色会发生变化，也能在相同的时间里完成更多工作。

我预计，许多职业都会出现类似的情况。未来三到五年，智能体将越来越多地成为人们的协作伙伴，由人们指挥、向其提供背景信息，并对其表现进行评估。随着这一变化发生，人们也会承担新的职责。

这就是我保持乐观的原因。我们已经看到围绕 AI 训练和评估出现了新的工作，我认为，随着人们逐渐发现自己能用 AI 创造什么、实现什么，未来还会涌现更多机会。

感谢您带来这场精彩的访谈。希望进一步了解由专家主导的训练数据、AI 评估以及贡献领域知识的机会的读者，请访问 micro1。