AI 生成的代码将长期存在，我们因此而变得不安全吗？

2025 年的编码并不意味着辛苦地处理代码片段或花费大量时间进行调试。这是一个完全不同的氛围。 AI 生成的代码 将成为未来产品中的大部分代码，并且已经成为现代开发人员的必备工具。被称为“氛围编码”的代码生成工具，如 Github Copilot、Amazon CodeWhisperer 和 Chat GPT，将成为常态，而不是例外，以减少构建时间和提高效率。但是，AI 生成的代码的便捷性是否会带来更大的威胁？是否会增加安全架构中的漏洞，还是开发人员可以以安全的方式进行“氛围编码”？

“由于 AI 生成的代码中的漏洞导致的安全事件是今天最少讨论的话题，”DeepSource 的创始人 Sanket Saurav 说。“仍然有很多由 Copilot 或 Chat GPT 等平台生成的代码没有经过人工审查，安全漏洞可能会对受影响的公司造成灾难性的后果。”

作为一个使用静态分析进行代码质量和安全的开源平台的开发者，Saurav 引用了 2020 年的 SolarWinds 黑客事件，作为公司可能面临的“灭绝事件”如果他们没有在使用 AI 生成的代码时安装正确的安全防护措施。“静态分析可以识别不安全的代码模式和糟糕的编码实践，”Saurav 说。

通过库被攻击

AI 生成的代码的安全威胁可以采取创造性的形式，并且可以针对库。编程中的库是有用的可重用代码，开发人员使用它们来节省编写代码的时间。

它们通常解决常见的编程任务，如管理数据库交互，并帮助程序员避免从头开始编写代码。

针对库的威胁之一被称为“幻觉”，其中 AI 生成的代码通过使用虚构的库显示漏洞。针对 AI 生成的代码的另一种更最近的攻击被称为“slopsquatting”，攻击者可以直接针对库来渗透数据库。

直接解决这些威胁可能需要比“氛围编码”这个词所暗示的更多的注意力。从魁北克大学的办公室，拉斐尔·库里教授一直密切关注 AI 生成的代码的安全性发展，他相信新的技术将提高其安全性。

在 2023 年的一篇论文 中，库里教授研究了要求 ChatGPT 生成代码而不提供任何其他上下文或信息的结果，这种做法导致了不安全的代码。那些是 Chat GPT 的早期日子，库里现在对未来充满乐观。“从那时起，有很多研究正在审查中，未来正在研究使用 LLM 的策略，这可能会带来更好的结果，”库里说，并补充说“安全性正在改善，但我们还没有达到可以直接输入提示并获得安全代码的地步。”

库里继续描述 一项有前途的研究，其中他们生成代码，然后将代码发送到一个分析其漏洞的工具。该工具使用的方法称为使用生成性 AI 查找线性异常（FLAG）。

“这些工具可能会发送 FLAG，例如可能在第 24 行识别出一个漏洞，开发人员可以将其发送回 LLM，并要求其检查和解决问题，”他说。

库里建议这种来回可能是修复容易受到攻击的代码的关键。“这项研究表明，经过五次迭代，可以将漏洞减少到零。”

然而，FLAG 方法并非没有问题，特别是它可能会产生假阳性和假阴性。此外，LLM 创建代码的长度也存在限制，将代码片段组合在一起可能会增加另一个层次的风险。

保持人在循环中

“氛围编码”中的某些参与者建议将代码分解，并确保人类始终处于代码库中最重要的编辑位置。“编写代码时，应考虑提交的粒度，”Windsurf 的产品工程负责人 Kevin Hou 说，赞扬了小块代码的智慧。

“将大型项目分解为较小的块，这通常是提交或拉取请求。让代理构建较小的、独立的功能，每次一个。这可以确保代码输出经过良好的测试和理解，”他补充说。

在撰写本文时，Windsurf 已经处理了超过 50 亿行 AI 生成的代码（通过其以前的名称 Codeium）。Hou 说，他们要回答的最紧迫的问题是开发人员是否了解过程。

“AI 可以在多个文件中同时进行大量编辑，因此我们如何确保开发人员真正理解和审查正在发生的事情，而不是简单地接受一切？”Hou 问道，并补充说他们在 Windsurf 的 UX 上投入了大量资金，“以便与 AI 的操作保持完全同步，并让人类始终保持在循环中。”

这就是为什么随着“氛围编码”变得更加主流，循环中的人类必须更加警惕其漏洞。从“幻觉”到“slopsquatting”威胁，挑战是真实的，但解决方案也是真实的。

新兴的工具，如静态分析、迭代改进方法（如 FLAG）和周到的 UX 设计，表明安全性和速度不必相互排斥。

关键在于让开发人员保持参与、了解和控制。有了正确的防护措施和“信任但验证”的心态，AI 辅助编码既可以革命性又可以负责。