AI 专家根据危险程度对 Deepfakes 和其他 19 种 AI 基础犯罪进行排名

伦敦大学学院最近发布的一份 报告 旨在确定未来 15 年内 AI 可能在多种方式上协助犯罪。该报告邀请了 31 位不同的 AI 专家，对 20 种不同的使用 AI 进行犯罪的方法进行排名，根据诸如犯罪的易犯性、潜在的社会危害、犯罪的利润以及难以阻止犯罪等因素进行评估。根据报告的结果，Deepfakes 对法治社会和公民构成了最大威胁，因为它们被犯罪者和恐怖分子利用的潜力很高。

AI 专家将 Deepfakes 列为潜在 AI 威胁的首位，因为 Deepfakes 难以被识别和对抗。Deepfakes 不断改进以欺骗甚至 Deepfakes 专家和其他 AI 基础的 Deepfakes 检测方法。就其危害能力而言，Deepfakes 可以被不法分子用来破坏信任的专家人物或尝试通过冒充受信任的个人来欺骗他人。如果 Deepfakes 很普遍，人们可能会开始怀疑任何音频或视频媒体的真实性，从而失去对真实事件和事实的信任。

伦敦大学学院计算机科学系的马修·考尔德博士是该论文的第一作者。考尔德强调了 Deepfakes 的日益增长的危险，因为我们越来越多的活动转移到在线。 正如考尔德被 UCL 新闻引用所说:

“与传统犯罪不同，数字领域的犯罪可以轻松共享、重复，甚至出售，使得犯罪技术可以被营销和犯罪可以作为服务提供。这意味着犯罪者可能能够外包他们的 AI 基础犯罪的更具挑战性的方面。”

专家团队将另外五种新兴的 AI 技术列为令人担忧的潜在犯罪催化剂:无人驾驶车辆被用作武器、对 AI 控制系统和设备的黑客攻击、在线数据收集用于勒索、具有自定义消息的 AI 基础的钓鱼以及一般的虚假新闻/错误信息。

根据 Shane Johnson 的说法，伦敦大学学院 Dawes 未来犯罪中心的主任，该研究的目标是确定与新兴技术相关的潜在威胁并假设如何超越这些威胁。约翰逊说，随着技术变革的速度增加，预测未来犯罪威胁对于政策制定者和其他能够采取行动的利益相关者至关重要，以便在新的“犯罪收获”发生之前采取行动。

关于其他 14 种可能的犯罪，专家将它们分为两类:中等关注和低关注。

中等关注的 AI 犯罪包括滥用军用机器人、数据中毒、自动攻击无人机、基于学习的网络攻击、对在线活动的拒绝服务攻击、操纵金融/股票市场、蛇油（以 AI/ML 术语为掩护的欺诈服务销售）以及欺骗面部识别。

低关注的 AI 基础犯罪包括艺术或音乐的伪造、AI 协助的跟踪、由 AI 生成的虚假评论、规避 AI 检测方法以及“入室盗窃机器人”（闯入人们家中窃取东西的机器人）。

当然，AI 模型本身也可以用来帮助打击其中一些犯罪。最近，AI 模型被部署来协助 检测洗钱计划 ，检测可疑的金融交易。结果由人工操作员分析，然后批准或拒绝警报，并使用反馈来更好地训练模型。看来，未来可能会出现 AI 相互对抗的情景，犯罪者试图设计他们最好的 AI 协助工具，而安全、执法和其他道德 AI 设计者则试图设计他们自己的最佳 AI 系统，或拒绝警报，反馈被用来更好地训练模型。看来，未来可能会出现 AI 相互对抗的情景，犯罪者试图设计他们最好的 AI 协助工具，而安全、执法和其他道德 AI 设计者则试图设计他们自己的最佳 AI 系统。