AIはかつてないほど多くの脆弱性を発見できる。それでも、その先をどうするかは人間が判断しなければならない。

長年、サイバーセキュリティチームは、「より多くの脆弱性をより速く発見できれば、ソフトウェアの安全性を高められる」という単純な前提のもとで取り組んできた。

人工知能は、その前提を揺るがしている。AIをめぐる議論が急速な導入から測定可能な価値へと移るなか、サイバーセキュリティの現場では、AIの進展が鈍化しても消えない課題が浮き彫りになっている。組織はすでに、AIが生成する脆弱性の検出結果が増え続ける状況に直面しており、それらには依然として人間による検証、優先順位付け、修正が必要だ。

Project Glasswingの最近の調査結果は、これまでで最も明確な事例の一つを示している。Claude Mythos Previewは、わずか数カ月で複数のソフトウェアプロジェクトにわたり、26,000件を超える脆弱性の検出結果を特定したと報じられている。しかし、Glasswingの公開開示台帳を独立して分析した結果によると、そのうち開示プロセスに進んだのは約10%にとどまり、最終的にパッチが適用されたものは1%未満だった。

この数字は衝撃的だが、驚くべきことではない。業界は何十年にもわたり、脆弱性の発見を最適化してきた。一方で、AI規模で脆弱性の検出結果を処理する体制は整えてこなかった。

サイバーセキュリティにおけるボトルネックは、もはや発見ではない。その後に何が起こるかだ。

脆弱性の発見は、決して最も難しいことではなかった

Project Glasswingに関する初期のアップデートで、Anthropicは、進展をますます制約しているのは脆弱性の発見ではなく、報告の検証、開示の調整、修正作業の支援に必要な人手による作業だと指摘した。同社はまた、生成される検出結果の量を処理する能力が不足していたため、開示のペースを落とすよう求めたメンテナーもいたと述べた。

この違いが重要なのは、脆弱性の発見と脆弱性の修正が、根本的に異なる作業だからだ。

発見は、ますますパターン認識の問題になっている。最新のAIシステムは、大規模なコードベースを分析し、異常な動作を特定し、実行経路をたどり、潜在的な弱点を見つけ出すことに長けている。

修正はそれとは異なる。脆弱性を修正するには、文脈を理解する必要がある。その問題が実在するかを判断し、潜在的な影響を把握し、修正方法を評価し、変更によってデグレードが生じないことを確認し、開示のスケジュールを調整し、関係者と意思疎通を図り、最終的には結果に責任を負う人が必要だ。

最後の点は極めて重要だ。AIは脆弱性の可能性を特定できても、その後に起こることに責任を負うことはできない。検証、トリアージ、修正、報告には、担当するプロジェクトに対して責任を負う人間が、これからも常に必要となる。そして、そのためには、フルタイムの仕事や家庭を抱え、ほかにも対応すべき用事がある人々の時間が必要だ。多くのオープンソースプロジェクトでは、制約となっているのはリスクを把握できるかどうかではない。増え続ける検出結果を責任を持って評価し、対応するためのメンテナーやセキュリティチームの処理能力だ。

これが、発見と修正の根本的な違いだ。発見は、AIの助けを借りて規模を拡大できる課題になりつつある。修正は依然として、AIが見つけたものに対処するための文脈、権限、責任を持つ人々にかかっている。

オープンソースが直面する課題

この構図は、オープンソースのエコシステム全体でいっそう顕著になる。商用コードベースの98%にオープンソースのコンポーネントが含まれており、世界のデジタルインフラの大部分は、比較的少数の貢献者が保守するプロジェクトに依存している。

多くの場合、この重要なソフトウェアを保守する人々はボランティアか、フルタイムの仕事や私生活上の責任と並行してプロジェクトの役割を担う人々だ。AIによってソフトウェアの量と、その中から発見される脆弱性が増えるにつれ、こうしたメンテナーがそのペースに対応できるかどうかは、セキュリティを左右する要素としてますます重要になっている。

AIシステムがプロジェクトのエコシステムに対して、数百件、あるいは数千件もの検出結果の候補を突然生成すると、メンテナーがボトルネックになる。

これはメンテナーへの批判ではない。現実を反映したものだ。

AIを活用した脆弱性発見が登場する前から、多くのオープンソースプロジェクトは、限られたリソース、高まるセキュリティへの期待、増加する保守負担に苦慮していた。AIは、すでに余力の乏しい体制への圧力を強めている。

課題は、脆弱性が存在するかどうかを判断することだけではない。その後に起こるすべてのことが課題なのだ。

報告を確認する人が必要だ。問題を再現する人が必要だ。それがセキュリティ上のリスクに当たるかを判断する人が必要だ。修正を開発し、テストする人が必要だ。開示を調整し、アップデートを公開する人が必要だ。こうした責任を、単純に自動化してなくすことはできない。

AIが生成する検出結果が増え続けるなか、オープンソースソフトウェアに依存する組織は、それを保守する人々の健全さと持続可能性に、ますます頼ることになる。

AIによる脆弱性発見の急増に備える

では、企業は何をすべきでしょうか。まず、AIを活用した脆弱性の発見は将来の問題ではなく、すでに起きていることを認識する必要があります。Project Glasswingは、最先端モデルが、ほんの数年前には想像も難しかった規模で脆弱性を発見できることを実証しました。

次に、セキュリティ責任者は、脆弱性の発見能力の向上に合わせて、自社の修正プロセスを拡張できるかどうかを評価する必要があります。多くの組織は脆弱性の発見に多額の投資をしてきた一方で、その解決を担う人材やプロセスへの投資は不十分です。

第三に、企業はセキュリティ機能の一環として、ソフトウェアの保守により注意を払うべきです。セキュリティは予防と検知の観点から語られることが多いものの、長期的な保守はリスク管理において最も重要でありながら、十分に評価されていない要素の一つです。AIによって脆弱性を発見しやすくなっているとしても、重要なソフトウェアを長期にわたって安全に保つ責任が軽くなるわけではありません。組織には、リスクの発生時に慌ただしい移行や場当たり的な修正を迫られるのではなく、計画的に近代化を進められるよう、ライフサイクル全体を担う体制が必要です。

最後に、組織は依存している、より広範なエコシステムを支援すべきです。AIによってオープンソースソフトウェア全体で脆弱性の発見が加速するにつれ、メンテナーへの要求は高まっていきます。ソフトウェアサプライチェーンの安全性は、最終的には、メンテナーが対応に必要なリソースを確保できるかどうかにかかっています。

AIは脆弱性をより速く発見できます。しかし、発見しただけではソフトウェアの安全性は確保されません。リスクを検証し、重要なものに優先順位を付け、テスト済みの修正を提供し、安全なソフトウェアを長期にわたって維持することこそ、より困難な作業です。脆弱性の発見が加速するなか、組織には専門知識と説明責任、明確なサービス水準に支えられた、継続的な修正能力が必要になります。

サイバーセキュリティにおける最大の難題は、脆弱性を見つけることではありません。その後に何が起きるかです。