Leslie Thomas, Ph.D, Kryterion 的首席心理测量官 Leslie Thomas, Ph.D Kryterion 的首席心理测量官

生成性人工智能是福还是祸？应对人工智能威胁的考试安全

随着数字时代的技术和经济转变对全球劳动力提出新的要求，提升和再培训技能比以往任何时候都更加重要。因此，对新技能的可靠认证的需求也越来越大。鉴于认证和执照考试在全球范围内的重要性日益增长，自然而然地出现了一波帮助考生作弊的服务。这些不诚实的方法不仅威胁到技能市场的完整性，还可能对人类安全构成风险；一些执照考试与实际技能如驾驶或操作重型机械有关。在公司开始意识到传统或模拟作弊（使用真正的人类代理）之后，他们引入了措施来防止这种行为——对于在线考试，考生开始被要求在考试期间保持摄像头打开。但是，现在，深度伪造技术（即超现实的音频和视频，通常难以与真实生活区分）对考试安全构成了新的威胁。在线上可用的工具利用生成性人工智能帮助考生逃避被发现有人代替他们参加考试。通过操纵视频，这些工具可以欺骗公司，使他们认为考生正在参加考试，而实际上，有人在屏幕后面（即代理测试）。流行的服务允许用户将自己的脸换成来自网络摄像头的其他人。这些工具的可用性破坏了认证测试的完整性，即使使用摄像头也是如此。其他形式的生成性人工智能以及深度伪造技术对考试安全构成了威胁。 深度伪造 和 大型语言模型（LLM） 是全球技术竞赛的核心，科技巨头如苹果、微软、谷歌和亚马逊，以及中国的竞争对手如 DeepSeek，都在这些模型上进行了大量投资。许多这些模型因其能够通过高风险考试而登上头条。与深度伪造技术一样，不法分子利用了大型语言模型来利用传统考试安全规范的弱点。一些公司已经开始提供浏览器扩展程序，启动人工智能助手，这些助手很难被检测到，允许它们访问高风险考试的答案。技术较不先进的技术仍然构成了威胁，包括考生在参加考试时使用手机上的人工智能应用程序而不被发现。然而，新的考试安全程序可以提供确保考试完整性的方法。如何在享受生成性人工智能的好处的同时减轻风险尽管生成性人工智能对考试的威胁正在迅速演变，但考试安全行业也正在进行一场平行的竞赛。威胁考试的同样的技术也可以被用来保护考试的完整性，并为公司提供额外的保证，即他们雇佣的候选人具备该工作所需的技能。由于威胁不断变化，解决方案必须富有创造力并采用多层次的方法。减轻生成性人工智能威胁的一种创新方法是双摄像头监考。这项技术涉及使用候选人的移动设备作为第二个摄像头，提供第二个视频源来检测作弊。通过对候选人的考试环境有更全面的了解，监考人员可以更好地检测多个监视器或外部设备的使用，这些设备可能隐藏在典型的网络摄像头视野之外。这也可以更容易地检测到使用深度伪造来伪装代理测试的行为，因为该软件依赖于面部交换；整个身体的视图可以揭示深度伪造和参加考试的人之间的不一致性。微妙的线索——如照明或面部几何形状的不匹配——在两个单独的视频源中变得更加明显。 这使得检测深度伪造变得更加容易，深度伪造通常是面部的二维表示。双摄像头监考的额外好处是，它有效地占用了候选人的手机，使其无法用于作弊。双摄像头监考还通过使用人工智能来提高对直播视频源的作弊检测能力而得到增强。人工智能有效地提供了一双“眼睛”，可以不断关注直播视频。如果人工智能在候选人视频源中检测到异常活动，它会向人工监考员发出警报，人工监考员可以验证是否违反了考试规定。这种额外的监督层提供了额外的安全性，并允许成千上万的候选人在额外的安全保护下被监控。生成性人工智能是福还是祸？随着提升和再培训革命的进展，确保考试的安全性以对抗新的作弊方法比以往任何时候都更加重要。从深度伪造来伪装测试代理到使用大型语言模型来提供测试问题的答案，威胁是真实的和可用的。但是，解决方案也是如此。幸运的是，随着生成性人工智能的不断进步，考试安全服务正在应对这一挑战，保持在与不法行为者的人工智能军备竞赛的前沿。通过采用创新的方法来检测使用生成性人工智能的作弊行为，从 双摄像头监考 到人工智能增强的监控，考试安全公司可以有效地对抗这些威胁。这些方法为公司提供了安心的感觉，即培训计划是可靠的，认证和执照是真实的。通过这样做，他们可以促进员工的职业成长，并使他们能够在新职位上表现出色。当然，人工智能的性质意味着对考试安全的威胁是动态的和不断演变的。因此，随着生成性人工智能的改进和对考试完整性的新威胁的出现，安全公司继续投资于利用人工智能开发和完善创新的多层次安全策略至关重要。与任何新技术一样，人们会试图将人工智能用于善良和恶意的目的。但是，通过利用技术用于善良的目的，我们可以确保认证保持可靠和有意义，并且对劳动力及其能力的信任保持强大。考试安全的未来不仅仅是跟上——它是领先。