Victor Cho 是 Emovid 的 CEO，他在那里探索如何让 AI 支持更真实、更情感智能的沟通。凭借产品创新和数字领导的背景，他专注于构建能够帮助人们更有效地连接的工具——而不失去人性化的触感。
当泄露的内部指南显示Meta允许其AI聊天机器人与孩子调情时，大多数人都把它当作丑闻并忽略了它。但是，值得更深入地了解这项调查揭示了当前AI伦理的状态：如果像Meta这样的公司在其规模上容忍这样的政策，那么这些平台还在默默地允许什么？以及其中有多少涉及您的数据?商业领袖倾向于根据AI工具的功能、速度和成本来评估它们。但是，还有更难的问题需要问，特别是当AI工具迅速成为必备工具时：当您的团队开始使用AI工具时，您同意了什么条件？模型提供者和代理构建者如何处理您的数据？当出现问题时，谁承担责任?大多数组织如此专注于如何从这项新技术中获得最多的利润，以至于他们还没有考虑到最重要的问题：您的数据实际上发生了什么?大多数人要么高估与聊天机器人分享信息的风险，要么完全忽略这个问题。事实上，大型语言模型在训练和发布给公众后基本上是冻结的，这意味着您的对话是单独存储的，而不是立即连接到系统的内存中；您今天早上告诉ChatGPT的内容不会立即影响模型在下午告诉别人的内容。这并不意味着您的数据没有被使用。它确实被使用了。路径只是更复杂一些。对话日志是单独存储的，许多AI实验室明确保留使用它们来训练下一个模型版本的权利。这就在服务条款中。今天作为客户支持查询或策略头脑风暴的内容，可以随着时间的推移影响明天将被数百万人使用的模型。对专有数据的风险超出了政策范围。2025年，Scale AI 意外泄露了来自客户（包括Meta、Google和xAI）的数千页机密项目材料。另外，2025年11月，OpenAI供应商遭到黑客攻击，导致黑客窃取客户数据，包括姓名、电子邮件和系统详细信息。为了澄清，这不是一个五级警报，但也不是完全没有风险的。如果您的数据非常敏感，以至于您希望有保密协议来保护它，那么您不应该把它交给消费者聊天机器人并假设它不会被用于其他地方。数字表明，大多数组织还没有吸取这个教训。几乎八成员工将公司信息粘贴到AI工具中，其中超过四分之三使用个人账户进行操作，根据2025年的工作人员调查。五分之一的组织已经报告了与暗影AI使用相关的泄密事件，只有37%拥有检测或管理它的政策，根据IBM 2025年的数据泄密成本报告。一旦理解了这种数据风险，就不难规避。区分消费者和企业工具，了解您签署的内容，您就已经完成了大部分工作。AI促进的沟通在哪里失败了商业?您的数据发生了什么只是故事的一部分，对于许多企业来说，更重要的部分是这些系统对您最重要的沟通的质量和问责制的影响。想想那些推动业务的对话：与长期客户保持关系的会议；销售谈判，语气和信任几乎比协议语言更重要；或者季度董事会关于您今年目标进展的报告。事实证明，AI可以相当好地处理这些交互的交易元素，例如记录会议笔记，分配优先级和突出行动点。但是，它在处理所有其他方面时却很吃力。特定的故障模式值得说明。AI压缩上下文；它总结、平滑和标准化，以一种方式剥夺细微差别。此外，大型语言模型生成的内容很难验证。您发送AI生成的电子邮件或总结会议笔记的人无法确认他们收到的内容是否反映了您的本意，或者信息是否被AI过滤或重新构建。这并不是说AI在商业沟通中没有作用。它显然是有用的。但是，有一类对话，效率的收益并不足以证明风险的合理性，大多数组织还没有充分考虑到区分这些用例的必要性。何时自己动手那么，问题变成了：对于您最敏感的沟通，AI是否应该参与？我的诚实答案是，不，至少在没有人可以对所说的话、说法和信息传递负责的情况下是不会的。验证人类沟通不是对旧方式的偏好；这只是承认某些对话需要有人来支持它们。领导者应该做他们的作业。供应商的数据政策关于重用数据的规定是什么？合同结束后您的团队的对话日志会发生什么？这些问题不是让您的IT团队在后台解决的。它们是采购问题，应该早于目前的流程。那个被允许与孩子调情的机器人并不是自主做出决定的。有人批准了它。每个AI系统都反映了构建和部署它的人的判断，这些判断并不是总是从外部看起来很明显的。直到审计AI工具和系统的工具赶上它们的采用速度，商业领袖可以采取的最有防御性的立场是划清他们愿意通过AI路由哪些对话以及哪些不愿意的界限。AI的效率论据很有说服力。拥有您在其名义下发布的内容的所有权同样具有说服力。
每家公司都知道谁负责技术和风险管理。首席信息官负责技术栈。首席合规官确保遵守法规。但随着人工智能在决策中扮演着越来越重要的角色，另一个问题变得更加难以回答：谁负责信任?这个问题并不是抽象的。生成式人工智能已经可以写电子邮件，起草政策，回答客户问题，并影响招聘或财务决策。员工和客户经常无法判断什么是真实的，谁写了消息，或者决策是由人还是算法做出的。这种不确定性不仅仅会令人沮丧——它会侵蚀对组织本身的信任。为了弥补这一差距，一些公司正在尝试一种新的角色：首席信任官。这个职位的职责很广泛——保护伦理，监督数据使用，并保护利益相关者的信任。但仅仅有一个头衔是不能解决问题的。信任不是通过在组织图表中添加另一个名称来建立的；它来自于公司如何清晰地解释其选择。信任侵蚀每当我与CEO讨论人工智能时，情绪都是相同的：兴奋混合着疲惫。每个人都看到潜力，但真正的商业价值更难衡量。然而，风险不仅仅是浪费投资——它是信任的侵蚀。当公司依赖于机器人、模板和自动填充回复时，通信开始失去信号的可信度：语气、意图和存在。消息可能仍然传递信息，但没有这些信号，它们感觉空洞。随着时间的推移，这种空洞性会削弱对领导者、决策和组织本身的信任。这是为什么意图很重要。信任可以在公司明确区分事务性人工智能（例如账单更新、密码重置、安排通知）和关系性人工智能（例如战略公告、团队更新、部门间通信或客户关系建立交流）时幸存下来。前者可以在没有风险的情况下自动化；后者需要人类的声音。没有这一界限，组织冒着自动化建立信任的时刻的风险，并随之而来的是人工智能采用的基础。“首席信任官”那么，这个职责在实践中是什么样子？无论公司是否采用“首席信任官”这个头衔，这个职能本身是不可避免的。有人必须拥有使人工智能在整个组织中可理解、可解释和可信的任务。这个职责超出了伦理检查清单或合规报告。它意味着将人工智能决策翻译成每个受影响的利益相关者都能理解的语言——董事会需要评估风险的员工、被要求采用新工具的员工、与自动系统交互的客户和要求清晰度的监管机构。没有这种翻译，人工智能就会变成一个黑盒。有了它，人们不仅了解决策的内容，还了解决策的原因。没有这座桥梁，沟通就会恶化。人工智能输出变得高效但缺乏个人情感，人们开始怀疑这些输出的真实性。信任功能确保关系时刻——如战略公告或客户支持交流——保留了只有人类才能提供的存在感、同理心和可信度。当工具被设计为保留人类存在时，它们会加深联系。衡量信任对于许多公司来说，信任被视为一个抽象的价值——在使命宣言中提到，但很少被衡量。这已经不够了。在人工智能时代，信任必须从象征转变为实践。第一步是定义事务性人工智能和关系性人工智能之间的界限。关于自动化在哪里是合适的明确政策向员工和客户发出信号，表明公司在其选择上是有意图的。没有这种清晰度，效率可能会渗透到依赖人类存在和同理心的时刻。第二步是直接衡量信任。这意味着询问最重要的人：员工是否信任领导在使用人工智能方面的责任？客户是否信任公司能够履行其承诺？客户是否信任他们正在进行的交互？这些答案，随着时间的推移，会给领导者最清晰的图景，表明他们的人工智能战略是否在建立信任还是侵蚀信任。换句话说，信任不再可以模糊或假设。它必须被定义、测试和以与任何其他战略优先事项相同的严谨性来衡量。致力于这种纪律的公司，通过明确的界限和直接的反馈，将更好地应对人工智能重塑市场的挑战。谁拥有信任？如果定义关系界限和衡量信任是第一步，那么下一步就是分配责任。组织内部必须有人来阐明这些原则，并确保它们不会保持抽象。无论这个人是否拥有“首席信任官”、“首席人工智能官”或位于人力资源或通信部门的头衔，这个角色被明确承认是更重要的。没有所有权，信任就有可能在每个人的责任和没有人的职责之间滑落。但是所有权不能止于一个办公室。信任必须渗透到整个业务的日常选择中：团队如何采用新工具，领导者如何传达战略，客户如何被支持，员工如何感到他们的声音被听到。一个指定的领导者可以设定框架，但整个组织必须体现它。简单地说，信任可能从一个单一的负责角色开始——但它只有当它成为一个共享的运营原则时才能成功。信任作为人工智能的基石人工智能将继续以大多数公司无法完全理解或监管的速度发展。这种速度使信任不再是一个“软价值”，而是一个战略能力——领导者必须设计、衡量和保护的东西。问题不仅仅是谁拥有这个头衔，而是信任功能如何深入到日常运营中。成功的公司不会是那些追逐每个新工具的公司，而是那些设定明确界限、用简单语言解释选择并在最重要的地方保留人类存在的公司。这样，人工智能采用的来源就不再是疑虑的来源，而是信心的来源。在这种意义上，信任是使其可用的基础。以这种方式对待信任的公司将发现自己不仅仅是在跟上技术的步伐，还在引领技术的发展。
