AI 可以帮助我们找到真实的人，而不是取代他们

伪造的图像甚至能欺骗最敏锐的眼睛，但平台所看到的伪造行为不应如此。

在过去的二十年里，在线约会行业将用户安全视为一份简单的检查清单进行教学。我们建议用户仔细审查照片，核对对方故事的一致性，或在同意见面前坚持进行视频通话。曾经是数字安全金标准的这些指导，如今已完全过时。决定性的证据出现在一项 iProov 于 2025 年 2 月的研究，一家领先的生物识别供应商。研究人员让英国和美国的 2,000 名受试者对各种项目（包括图像和视频）进行标记，判断其是真实的还是合成的。结果令人惊讶：只有两名受试者没有出现错误。这仅占受测者的 0.1%，意味着其余 1,998 人至少犯了一次错误。高度的自信与高错误率的结合对消费者而言是危险的混合，而欺诈者已经迫不及待地想要利用这一点。根据 Entrust 2026 身份欺诈报告，深度伪造现在占生物特征欺诈尝试的五分之一。2025 年深度伪造的自拍照增长了 58%，而注入攻击同比增长了 40%。期望普通用户在视觉感知上击败高度先进的生成式 AI 模型是一种责任的放弃；这将风险直接从平台转移到客户身上。

欺诈不再仅仅是寻找伪造图片

现实是，当前的检测工具正在失效，因为它们一次只对单个对象进行对象级别的测试。一个测试询问特定图像是否由 AI 生成。另一个测试询问文档是否被伪造，第三个测试询问消息中的文本是否由机器编写。问题在于这些测试很快就会失效。随着生成模型的持续进步提升输出质量，先前的响应和检测方法几乎在一夜之间就变得过时或失效。

一种更好的方法是用多信号的联合匹配取代单一信号的出现。我们的方法对用户存在的各个维度之间的关系进行评分。信号的一个维度是设备在我们系统中的外观。另一个维度是用户会话的来源地点。第三个维度是账户的实际行为。当系统标记出可能欺诈的指示时，这一切将导致人工审查。

联合国毒品和犯罪问题办公室在其 跨国有组织犯罪威胁评估 2026 年东南亚报告中，估计 2025 年线上诈骗损失在报告地区仅为 US$88.3 billion 至 US$114.1 billion 之间。工业欺诈在这种规模下依赖速度和量。任何单一信息都可以轻易伪造，但伪造 全部的行为始终保持一致——跨多个持续被平台击倒的账户——则变得过于繁重难以维持。我们引入的每一层摩擦都会提高每个账户的欺诈成本，直至其利润率降至零。

这正是 AI 真正发挥价值的地方。虽然伪造检测随着新技术有所提升，但识别指示欺诈的同步因素并实现更早干预的能力大幅提升了用户体验。当用户的指示不一致时，其真实意图便会暴露。诚实的会员、欺诈者以及有其他目的的访客可能都使用相同的照片和几乎相同的开场白。然而，他们的综合指示会有所不同，讲述出完全不同的故事。人们的回复方式、响应速度、对话升级方式、询问内容以及被放弃的对话，都描绘出一幅图景。身份可以是完美生成的谎言，但行为始终会揭示不良意图。

信息不对称：平台了解用户无法得知的内容

联邦贸易委员会在 2026 年报告称，2025 年浪漫诈骗损失 上升了 22% 相较于 2024，约为 $1.5 billion。 在那些识别出联系方式的人中，大约 60% 表示他们的首次联系来自社交媒体平台。

我们的行业存在巨大的信息鸿沟。平台能够看到相同类别的信号，例如它们几乎肯定还能看到登录国家和账户年龄。所有成员看到的只是一个微笑和一段精心撰写的文字，巧妙地混入了他们个人资料中的信息。平台有能力利用这些隐藏数据来构建更安全的环境，或将其披露以便成员相应行动。遗憾的是，业界大多数并未采取任何措施。

行业的消极行为往往与用户隐私相关的复杂权衡有关。此等方程式中昂贵的一半是采取行动。建立信任有两条路径：慢速路径是声誉，快速路径是验证。验证会产生摩擦。业界普遍追求速度、量级和低摩擦，这解释了其长期的验证不足。

然而，解决方案正在出现。2024年8月在arXiv上的一篇预印本提出了“personhood credentials”。来自OpenAI、Microsoft、MIT、Oxford和Harvard等机构的32位作者提出了一种保护隐私的凭证，允许用户向服务证明自己是真实的人，而不泄露其真实身份。他们的论点是CAPTCHA已不足够，异常检测正被日益强大的AI快速削弱。他们是对的。约会是这种削弱后果最为严重的领域之一，因为所售卖的核心产品正是信任本身。

打造更好的社区标准

帮助识别可能犯罪行为的相同信号也可以用于识别其他类型的不良行为。阅读意图的范围远超单纯阻止欺诈。并非网站上的每个不良行为者都是罪犯。一个令人不快的用户可能并未触犯法律，而被视为交易的关系也不一定是欺诈。以蔑视对待他人不会导致联邦起诉。但这些行为会严重破坏社区。更糟的是，它们往往对完全依赖成员举报进行执法的系统而言是不可见的。

行业传统上将界限划在非法行为上：筛查欺诈和未成年人，删除法律严格要求的内容，其余则视为成年用户之间的私事。我不知道还有其他约会网站使用AI帮助识别交易行为并积极阻止它。我们的Stop@Send功能在发送信息时实时评估发送者的出站消息。它寻找更深层的含义，而不仅仅是将内容与静态关键词列表对比。大多数情况下，系统会向发送者提供解释，准确说明该信息为何不适合社区。

当然，这并非免费。打断成员对话会产生摩擦，这正是我们主动选择承担的成本。但我们的标准应由平台上实际允许的行为来确立，而不是由未被执行的社区指南页面上所发布的内容来决定。一个不愿给不良行为者制造不便的平台，根本没有资格自称为社区。

行业面临的挑战

当前市场正竞相让AI取代人类：我们看到AI伴侣、AI生成的个人资料以及调情代理的兴起。我坚信这种方向是死路一条。它完全以提升互动为目标，却只会带来互动本身。我们的做法根本不同。我们利用AI帮助清除不良行为者，让成员相互负责，并帮助他们以更有可能促成有意义、真实世界关系的方式相处。

避免的红旗清单已失去价值。过去能识别诈骗者的信号正是生成模型已经学会消除的特征，导致我们始终陷入军备竞赛。除了一条基本规则——永远不要向不认识且未见面的人汇款，人人都应遵守——关键问题不再是照片，而是平台以及它们利用用户未知信息所做的事。

能够对这一挑战作出良好响应的平台正在主动为信任进行工程设计。没有做到的平台则要求其成员以0.1%的成功率自行承担更多工作，仅仅是为了自我保护。

我把这个挑战抛给每个平台，包括我自己的平台。我期待得到诚实且完整的答案。弥合这一差距的技术现在已经存在。欺诈仍然存在，因为阻止欺诈意味着放弃通过轻松注册的大门带来的巨量增长。这是商业决策，而非技术限制。正确决策的平台拥有本讨论唯一重要的资产：成员的信任。