思想领袖
新的高管冒充时代不会涉及高管本身
在过去的几年里，品牌面临的最大数字威胁是高管冒充，通常通过伪造的电子邮件地址或冒充的社交媒体账户执行。今天，我们面临着一个更加复杂和令人信服的敌人：AI代理。
大型语言模型（LLMs）驱动的自治代理的崛起，旨在以最少或没有人为干预来运行，已经解锁了新的可能性，这些可能性与早期的web2和移动应用时代类似。
虽然真正的自治代理尚未从愿景转变为现实，专家警告他们可能会在明年开始在企业网络中漫游。随之而来的兴奋和采用将不可避免地进入不断适应的网络犯罪者的视野，他们将自治代理视为数字欺诈的新前沿。那么，当这些代理被冒充时会发生什么？或者，当他们是冒充者时会发生什么？
就像移动应用程序曾面临大量伪造版本，旨在提取登录凭据或安装恶意软件一样，AI代理现在也面临着类似的复制品浪潮。这次，然而，风险将更难以检测，损害可能更加广泛。
从高管冒充到代理欺骗
AI已经开启了新的欺诈和欺骗途径，例如使用仅几秒钟的音频就可以重现高管的语音模式的语音克隆骗局，最近，实时深度伪造视频和语音基于的冒充已经被报道。现在，想象一个自治代理，假装代表您的公司，与客户、投资者或合作伙伴进行交互。该代理可以嵌入到网站中，集成到聊天机器人中，或者通过电子邮件进行交互，提供合理、专业和完全欺诈性的交互。
复制代理的前身可能在于“越狱”模型中，威胁行为者通过提示注入或多回合技术操纵LLM，以产生有害或虚假输出。但这只是开始。
根据数据，2024年，AI公司筹集了1315亿美元，占全球风险投资交易的三分之一以上。由雄心勃勃的创始人、饥饿的投资者和渴望的政府驱动的AI竞争将迅速加速这一新兴技术的能力，其合法用例将继续被利用为恶意目的。
生成式AI已经并将继续民主化此类代理的创建。随着平台竞相集成它们，很少有护栏来验证其真实性。这为一种新的冒充类别打开了大门：不仅仅是对人的冒充，也包括对软件的冒充。
对渴望品牌和好奇消费者的警钟
消费者和品牌一样才刚刚开始了解与代理交互的含义。但信任是任何数字交互的基石，当它被打破时，后果可能会是毁灭性的。
如同深度伪造视频和语音克隆一样，假代理可以用于：
- 以信誉良好的品牌或其他值得信任的品牌的名义索取付款或敏感数据
- 通过社交媒体DM或付费广告将用户重定向到恶意软件感染的网站
- 在大规模上侵蚀客户信心并触发声誉损害
根据最近的联邦贸易委员会报告，冒充骗局在美国 alone 就造成了近30亿美元的报告损失——预计这个数字将随着AI冒充变得更加无缝和可扩展而大幅增加。
假代理的泛滥：广告、搜索和社交
尤其危险的是，复制代理将如何分发。它们不需要自己的网站或域名来获得关注。坏行为者可以并且确实使用付费搜索结果和社交媒体平台来推广恶意克隆的信任品牌、执行官或产品。例如，在Google上赞助的链接或Instagram上推广的帖子足以将毫无戒心的用户引导到假代理或支持门户。
这种生态系统级别的风险，坏行为者劫持合法的数字房地产来促进骗局，需要一种新的网络安全思维方式。仅仅保护您的网络、云或安全您的员工凭据已经不够了。您的品牌的威胁周界现在包括每个广告网络、搜索平台和第三方工具您的客户与之交互。
在为时已晚之前采取行动
我们正在进入一个人类和代理之间的界线日益模糊的世界。威胁不再仅仅是对人的冒充，这种冒充由于可用的AI工具而呈指数级增长，而是数字人物的冒充。
那么，企业如何准备？
- 绘制您的品牌数字化身: 知道您的客户在哪里与您的公司和代理交互——无论是在您的网站、通过API还是通过第三方——并积极监测这些入口以防止欺骗尝试。
- 监测新兴代理生态系统: 随着开放代理市场和平台（如Hugging Face Spaces）获得流行，保持警惕关于类似或分叉工具在其他地方出现的警惕。
- 缩短检测时间（TTD）和修复时间（TTR）： 使用允许快速识别和删除冒充者的解决方案，特别是那些滥用付费广告或社交平台的解决方案，对于限制损害至关重要。
- 教育您的用户: 将透明度构建到您的代理体验中。您的用户应该了解他们应该在哪里以及如何与您的工具交互，以及如何发现红旗。
- 建立代理真实性协议: 为确认代理的来源和合法性而努力实现基于加密或元数据的验证。
解决方案在于保护AI代理生态系统，而不是避免它。就像我们已经学会验证域名、验证电子邮件和验证移动应用程序一样，我们现在需要将同样的警惕性扩展到AI代理的世界。如果我们现在不领先于代理冒充，我们可能很快就会发现自己正在与一个看起来很熟悉的助手交谈，但这个助手却为另一方工作。
