网络安全

GitHub 试点项目将 AI 安全发现转化为 55 项开源修复

Miles Okada
将 Unite.AI 添加到您在 Google 上的首选来源
要点AI分诊和人工审核将9,791条原始发现缩减至99份私密报告。
查看更多
  • AI分诊和人工审核将9,791条原始发现缩减至99份私密报告。
  • 维护者对修复哪些发现以及何时发布补丁保持控制权。
  • 扩大试点取决于专家审核能力,而GitHub承认这一能力尚不可扩展。

GitHub 于2026 年 11 月 17 日报告称,截至 2026 年 11 月 15 日,与 Microsoft 合作开展的一项安全试点已为 6 个开源项目提供 55 项修复。代号 MDASH试验从 9,791 个潜在问题中筛选出 99 份私下提交的报告,每份报告均由研究人员核查,并附有概念验证和建议修复方案。

其中 14 项修复已纳入版本发布。这些项目包括 AutoGPT、Caddy、Express、FastMCP、ImageMagick 和 Netty。维护者决定修复哪些发现、如何修复以及何时发布;报告和补丁均保留在 GitHub 上。

人工审核缩小扫描结果范围

这项设计旨在解决 AI 扫描成本降低所带来的维护难题:重复问题和并非实际漏洞的报告已经占用了维护者的时间,而修复问题仍需人工判断。GitHub 希望研究人员在让另一个模型扫描项目之前先征求维护者意见,并在提交发现时一并提供补丁。

Microsoft 的 Codename MDASH 系统使用其 MAI Cyber 模型扫描每个项目,并提出修复建议。GitHub Security Lab 的 AI 分诊代理基于定制的 Copilot 技能构建,负责剔除重复项、核查问题是否有效,并聚焦影响重大的漏洞。随后,Microsoft FORGE Lab 的 7 名研究人员逐一人工核查所有剩余发现,再通过 GitHub 私密漏洞报告渠道将报告提交给维护者。

维护者采用了建议的补丁

据 GitHub 称,首批修复在初次扫描约一周后发布。Caddy 的维护者在一周内修复了收到的全部 22 份报告。由两人维护的 ImageMagick 也收到了 22 份报告;其中一次,摘要指出了确切的代码行,并说明一个看似熟悉的问题实际上另有不同,维护者随后在 15 分钟内就提交了修复。

在 AutoGPT,维护者发布一项有缺陷的检查后 3 天,一份报告便指出了正确的代码行。他们在建议补丁的基础上进一步完善修复方案,一天内完成编写,并在不到一周后将其部署到生产环境。在整个试点期间,维护者既有原样采用建议修复方案的情况,也会对其他方案进行调整。

一位 Netty 维护者这样描述仍然存在的制约:“发现漏洞已不再是我们的瓶颈。修复漏洞才是难点,而这取决于维护者。”

扩大规模取决于审核能力

GitHub 表示,项目样本规模较小,目前的结论还只是初步经验,人工审核也尚无法扩展到更大规模;研究人员花了约两天时间,逐个项目手动核查发现。低质量报告仍然每天都会送到维护者手中。

GitHub 还指出,私有分支上的 CI/CD 测试,以及让维护者使用具备网络安全能力的模型,都是尚待解决的需求。这些测试可在私有分支上验证修复效果;获得模型使用权限,则有助于维护者在修复前后验证概念验证。GitHub 建议,AI 生成的报告应遵循以下标准:将每项发现与项目现有知识、威胁模型和安全策略逐一核对;私下提交报告;附上建议修复方案;并由维护者决定处理节奏。

GitHub 计划将这些经验应用于私密漏洞报告和安全公告。它将向 GitHub Secure Open Source Fund 的所有往期项目提供 AI 安全扫描服务,在私下提交报告前先核查发现,并提供 GitHub Copilot Max;此外,还会将支持扩展至未来各期 Fund 项目。GitHub 和 Microsoft 也在努力扩大研究人员审核规模,同时保留这些核查环节。

对于 AI 辅助漏洞披露,这项试点的取舍十分明确:自动化可以将大量原始发现筛减为规模可控的私密待处理队列,而专家审核和维护者的决策权,则决定这些报告能否转化为补丁。要扩大规模,关键在于维持这一标准,同时避免让分诊负担重新落回维护者身上。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。