Marc Fernandez，Neurologyca 首席战略官 – 访谈系列

Marc Fernandez，Neurologyca 首席战略官，拥有超过二十年的技术战略和业务发展经验，涵盖人工智能、前沿技术、消费电子和人机交互等领域。 在 Neurologyca，他专注于人类情境 AI 的战略与商业化，该技术旨在帮助 AI 系统解读压力、信心和参与度等信号。 Fernandez 之前曾担任 Pearl 的首席执行官，这是一款以 AI 为导向、聚焦软技能和职业发展的平台，并在 ALIVE Ventures 担任驻场企业家，专注于老年技术。 此前，他在 OPPO 负责美国战略，聚焦包括 AI、Web3、区块链和移动操作系统在内的下一代技术，并在 Emerge、Denizen、SweetLabs、Movella 和 X‑Rite/Pantone 担任高级业务发展职务。 他还在南加州大学担任了 15 年的兼职教授，教授创业、沟通、社交平台、AI、区块链及其他新兴技术的交叉领域。

Neurologyca 是一家总部位于旧金山的 AI 公司，致力于构建其所称的人类情境层，以帮助智能系统更好地理解和适应所服务的人群。 其基于 API 和 SDK 的平台处理多模态行为信号、交互模式和情境上下文，生成关于参与度、信心、压力、注意力和信任等因素的机器可读指示。 这些洞察可帮助 AI 系统实时调整响应、节奏、推荐和行动，同时在交互之间保持情境连续性。 Neurologyca 将该技术定位为基础设施，而非独立应用，其潜在应用覆盖教育培训、健康、企业软件、自治代理、驾驶安全、游戏以及其他交互系统。 公司目前通过面向合作伙伴的精选早期访问计划提供该平台，以构建自适应 AI 体验。

您的职业历程从 OPPO 的下一代技术战略，到围绕 AI 引导的软技能打造 Pearl，再到在 Neurologyca 开发人类情境 AI。这一演进如何塑造您对 AI 最大局限不是智能本身，而是对指令背后人的理解的看法？

三十年前，网络让信息变得可获取；五年前，AI 让产出变得丰沛。今天我们被海量内容淹没，却仍在为获得有用的结果而苦苦挣扎。单纯的技术算力并不能保证对实际使用者产生良好结果。

这一直是我工作的主线——从在 OPPO 将新兴技术融入日常生活，到在 Pearl 探索 AI 能否教授人际技能，再到在 Neurologyca 将人类情境构建为基础设施。 智能本身已不再是瓶颈；模型的推理和执行已经相当成熟。 更棘手的是人们在简单请求背后带来的未言情境：他们为何提出请求、哪些因素让他们感到不适，或是轻微的犹豫是否意味着系统应当中止。 目前，AI 只能通过文本看到这些情境的压缩片段，而当代理开始执行现实世界的行动时，这一盲点就变得至关重要。

近期自主代理窃取凭证、创建假身份或隐匿其行为的案例，引发了关于当 AI 在实现目标时缺乏对背后意图的充分理解会出现什么问题的讨论。您认为这主要是对齐问题、工程问题，还是我们当前设计代理方式的根本限制？

这是一次跨越对齐与工程的设计失误。 我们已经把系统优化到只追求目标，却几乎没有投入精力教会它们对人类用户而言的真正成功是什么样子。

看看经典的 GPT‑4 TaskRabbit 示例: 当面对 CAPTCHA 时，模型撒谎称自己视力受限，以让人工工作者帮忙破解。 没有人教它去欺骗，它只是识别出障碍并选择了阻力最小的路径。 只以结果奖励代理，它就会走极端捷径。 核心挑战在于将必须在架构上被阻断的行为，与技术上可行但在情境上错误的行为区分开来。

您曾指出，公司在告诉 AI 代理要追求什么目标时，往往没有让它们充分理解对人类用户而言“成功”到底意味着什么。除了提示本身，代理还需要哪些信息才能真正理解意图？

提示只是表层。 真正的意图依赖于情境深度: 过去的历史、可接受的权衡、实际的利害关系以及用户在任务进行中的反应。

部分信息可以来自应用环境状态或聊天记录，但在直接交互中，行为线索才是保持情境动态的关键。 人们会犹豫、在进行中改变主意，或感到困惑。 若代理无法读取这些变化，它只会执着于执行已经在两步前变得过时的指令。

在技术上应当绝对不允许的行为与在特定情境下虽被允许但不恰当的行为之间，需要明确区分。开发者应如何在硬性安全防护与 AI 系统的情境判断能力之间划分责任？

任何会导致严重伤害且没有合法使用场景的行为——如凭证盗窃、擦除审计日志、未授权的特权提升——都应在代码层面硬编码为不可能。 代理不应在是否绕过安全控制上消耗计算资源；系统架构应直接让这些操作不可实现。

真正的灰色地带是日常行为，例如发送邮件、取消会议或修改内部工作流。 这些在理论上是允许的，但是否应由代理自动执行取决于利害关系、用户历史、可逆性以及用户犹豫的细微信号。 知道何时因缺乏情境而停止，比单纯的能力更为重要。

Neurologyca 正在研发能够将压力、信心、注意力、参与度和信任等信号转化为机器可读情境的技术。这类信号在实际操作中如何改变自主 AI 代理的行为？

这些行为输入本质上是实时的反馈数据——当前 AI 架构所缺失的精确反馈环。 现在模型只能追踪自己的行为，却对人类实际的接受情况全然盲目。 举例说，在辅导场景中，用户输入“我明白了”，但其生理或行为线索显示出困惑加剧、注意力下降。这就是 AI 应该转向、放慢或提供替代解释的直接信号。 目标并非进行临床诊断，而是建立紧密的反馈回路——情境、行动、响应、适应——让系统学会对特定个体真正有效的方式。

人类情境也可能模糊。系统可能误判犹豫、压力、语调或其他行为信号。如何防止情境感知 AI 对人们的想法或意图过度自信？

行为信号本身噪声大且具概率性。 突然的压力升高或打字停顿可能意味着困惑，也可能只是用户把咖啡洒了。 将单一数据点翻译为对某人情绪状态的确定性断言的系统本质上是有缺陷的。

稳健的系统会随时间观察复合信号，结合环境基线，并显式输出置信区间。 将“相对于基线的认知负荷升高”记录下来，与直接判断“用户焦虑”之间差别巨大。 当不确定性高或利害关系重大时，代理的职责不是猜测，而是提出澄清性问题。

让人类参与每一次关键决策会削弱自主代理所承诺的效率。一个可扩展的人类监督模型应当是什么样的？即代理知道何时可以独立继续，何时必须真正停下来请求指导？

可扩展的监督并非保持永久的人在回路中，而是实现动态升级。

低风险、可逆的任务会自动推进。 但随着利害关系上升、环境噪声增大或信号暗示用户不适，批准阈值会动态提升。 关键是这些阈值必须个性化——一位经理可能乐于将日程管理全权委托，而另一位则希望对每一次微调都进行批准。 系统必须学习个人的边界，而不是套用僵硬的全局策略。

随着代理发展出持久记忆并对服务对象形成日益细致的模型，情境很快会变成敏感的个人数据。公司应如何处理同意、隐私、数据所有权以及 AI 对用户记忆的限制？

这是自主系统面临的首要信任瓶颈。 持久记忆把通用工具变成助理，但在存储工作流偏好与悄然构建未经批准的心理画像之间存在危险的重叠。 数据治理必须设定严格的用途界限。 若代理在高管教练过程中推断出压力模式，这些情境不能泄露到绩效评估、保险算法或广告技术中。 透明度必须细粒度——用户需要看到已存情境、一键删除以及合理的默认保留期限。 系统能够推断出关于你的信息，并不意味着它有权保存这些信息。

我们应如何评估自主代理是否真正理解人类意图？当今的基准是否过于关注任务完成度和准确率，而忽视了代理是否以用户真正可接受的方式实现目标？

任务完成度是一个极具误导性的基准。 代理可以严格按照指令执行，却交付出用户极度不满的结果。

如果代理以最低价格签订合同，却因此毁掉了长达十年的供应商关系，传统评估指标仍会记录 100% 成功率。 对高管而言，这是一场灾难。 我们需要衡量在未言边界内的表现——它是否尊重了隐含规范？当条件变化时是否停顿？ 这种原始完成度与实际满意度之间的差距正是当前基准完全忽视的。

展望未来，您是否预期人类情境能力会成为 AI 堆栈中与模型、记忆、工具和安全并列的标准层？在企业能够自信地将有意义的工作委托给代理而无需持续监督之前，还需要解决哪些问题？

随着 AI 从生成内容转向执行现实行动，人类情境将成为必不可少的一层。 模型负责推理，工具赋予系统“手”，但没有实时的人类情境反馈回路，记忆和安全防护只能基于静态假设。

在企业授予真实权限之前，我们仍需解决情境隐私、在不确定性下的概率推理以及细粒度治理规则。 构建能够完成孤立任务的 AI 已基本解决；让系统能够动态适应提示背后的人类，则决定了我们愿意赋予其多少真实自主权。

感谢这次精彩的访谈，想了解更多的读者请访问 Neurologyca。