الذكاء الاصطناعي في عمليات التصيد: من يستفيد أكثر، المهاجمون أو المدافعون؟

随着网络犯罪的增长，网络安全行业不得不采用最先进的技术来跟上。人工智能（AI）已经成为阻止网络攻击最有用的工具之一，但攻击者也可以使用它。最近的钓鱼趋势是双方问题的极佳例子。

钓鱼是 当今最常见的网络犯罪类型，远远超过其他类型。随着更多公司意识到这一日益增长的威胁，他们实施了人工智能工具来阻止它。然而，网络犯罪者也在加大人工智能在钓鱼中的使用。

如何使用人工智能对抗钓鱼

钓鱼攻击利用人们的好奇心和恐惧。由于这种社会工程如此有效，保护自己最好的方法之一就是确保自己不看到它。人工智能可以帮助实现这一点。

反钓鱼人工智能工具通常以高级电子邮件过滤器的形式出现。这些程序扫描您的传入消息以查找钓鱼尝试的迹象，并自动将可疑电子邮件发送到您的垃圾文件夹。一些较新的解决方案可以 以 99.9% 的准确率识别钓鱼电子邮件，通过生成基于真实示例的欺诈消息的不同版本来训练自己识别变体。

随着安全研究人员检测到更多钓鱼电子邮件，他们可以为这些模型提供更多数据，使其更加准确。人工智能的持续学习能力还帮助完善模型以减少误报。

人工智能还可以帮助在您点击恶意链接时阻止钓鱼攻击。自动监控软件可以 建立正常行为的基准，以检测可能在有人使用您的帐户时出现的异常。然后，它们可以锁定个人资料并在入侵者造成太多损害之前提醒安全团队。

攻击者如何使用人工智能进行钓鱼

人工智能在阻止钓鱼攻击方面的潜力令人印象深刻，但它也是生成钓鱼电子邮件的强大工具。随着像 ChatGPT 这样的生成人工智能变得更加便捷，它使钓鱼攻击更加有效。

鱼叉式钓鱼——使用个人详细信息来制作用户特定的消息——是最有效的钓鱼类型之一。电子邮件中包含所有个人信息的电子邮件自然会更加令人信服。然而，这些消息传统上很难创建，尤其是在大规模上。有了生成人工智能，这种情况已经不再如此。

人工智能可以在人类难以做到的时间内生成大量定制的钓鱼消息。它还比人类更擅长编写令人信服的伪造消息。在 2021 年的一项研究中，人工智能生成的钓鱼电子邮件 比人类编写的电子邮件点击率更高——而这是在 ChatGPT 发布之前。

就像营销人员使用人工智能来个性化客户外联活动一样，网络犯罪者可以使用它来创建有效的、用户特定的钓鱼消息。随着生成人工智能的改进，这些伪造品将变得更加令人信服。

攻击者由于人类弱点而保持领先地位

随着攻击者和防御者利用人工智能，哪一方从中受益更多？如果您查看最近的网络犯罪趋势，您会看到尽管有更复杂的防护措施，网络犯罪者仍然蓬勃发展。

商业电子邮件泄露攻击 在 2022 年下半年增加了 81%，员工打开了 28% 的这些消息。这是过去两年中 175% 增长的更大趋势的一部分，表明钓鱼攻击的增长速度比以往任何时候都快。这些攻击也很有效， 每分钟窃取 17,700 美元，这可能是它们成为 91% 的网络攻击背后的原因。

为什么钓鱼攻击尽管人工智能改进了反钓鱼保护措施，但仍然增长如此之快？这可能归结于人为因素。员工必须实际使用这些工具才能使其有效。除此之外，员工可能会从事其他不安全的活动，使他们容易受到钓鱼攻击，例如在未经授权的个人设备上登录工作帐户。

前面提到的调查还发现，员工仅报告了 2.1% 的攻击。这种缺乏沟通可能使安全措施很难确定需要改进的领域。

如何保护自己免受日益增长的钓鱼攻击

鉴于这一令人担忧的趋势，企业和个人用户应该采取措施保持安全。实施人工智能反钓鱼工具是一个好的开始，但这并不能成为唯一的措施。只有 7% 的安全团队不使用或计划使用人工智能，但钓鱼攻击仍然占主导地位，因此公司还必须解决人为因素。

由于人类是防御钓鱼攻击的最弱环节，因此他们应该是缓解措施的重点。组织应该使安全最佳实践成为员工入职和持续培训的更突出的部分。这些计划应该包括如何识别钓鱼攻击、为什么这是一个问题以及培训后测试他们的知识保留情况的模拟。

使用更强大的身份和访问管理工具也很重要，因为这些工具可以帮助防止成功的入侵。一旦入侵者进入帐户，即使是经验丰富的员工也可能犯错误，因此您应该能够检测和阻止入侵者在造成广泛损害之前。

人工智能是双刃剑

人工智能是近年来最具颠覆性的技术之一。它是否是好事或坏事取决于其使用方式。

必须认识到，人工智能可以帮助网络犯罪者就像帮助网络安全专业人员一样——如果不是更多的话。当组织承认这些风险时，他们可以采取更有效的措施来应对日益增长的钓鱼攻击。