Anand Naik, Sequretekの共同創設者兼CEO Anand Naik Sequretekの共同創設者兼CEO

サイバーセキュリティの未来：AI、自動化、人間の要素

過去10年間、情報技術の急速な成長とともに、サイバーセキュリティ脅威の暗い現実も劇的に進化しました。サイバー攻撃は、主に悪意のあるハッカーによって行われていたものから、より複雑で標的を絞ったものになりました。国家によるスパイ活動、企業や個人情報の盗難、サイバー犯罪の動機は、ますます悪意のあるものになりました。金銭的利益はサイバー犯罪の重要な理由のままですが、重要なデータや資産を盗むというより悪質な目的によって上回られました。サイバー攻撃者は、システムに侵入し、悪意のある活動を実行するために、人工知能を含む最新の技術を利用しています。米国では、連邦捜査局（FBI）は、2022年に80万件以上のサイバー犯罪関連の苦情が提出されたと報告しており、総損失は100億ドルを超え、2021年の69億ドルの総損失を上回ったと、捜査局のインターネット犯罪苦情センターは報告しています。脅威のランドスケープが急速に変化しているため、組織はサイバーセキュリティに対する多角的なアプローチを採用する必要があります。このアプローチには、攻撃者がどのように侵入するか、初期の侵入を防止する方法、侵入を迅速に検知する方法、迅速な対応と復旧を可能にする方法が含まれます。デジタル資産を保護するには、人工知能と自動化の力を利用しながら、熟練した人間の分析家がセキュリティポストに不可欠であることを保証する必要があります。組織を保護するには、多層的な戦略が必要です。この戦略では、攻撃者が使用するさまざまな侵入点と攻撃ベクトルを考慮する必要があります。これらのカテゴリは、主に4つに分類されます。1）ウェブとネットワークの攻撃、2）ユーザーの行動とアイデンティティベースの攻撃、3）クラウドとハイブリッド環境を対象としたエンティティの攻撃、4）マルウェア、ランサムウェア、先進的な持続的な脅威、他の悪意のあるコードを含むマルウェア。AIと自動化の活用これらの攻撃クラスの各種に合わせて、人工知能と機械学習モデルを展開することは、事前の脅威の検出と防止に不可欠です。ウェブとネットワークの攻撃の場合、モデルは、フィッシング、ブラウザの悪用、分散型サービス拒否（DDoS）攻撃などをリアルタイムで検出する必要があります。人工知能と機械学習を使用したユーザーとエンティティの行動分析は、異常な活動を検出できます。これは、システムリソースとデータの悪用を示唆します。最後に、人工知能によって駆動されるマルウェア分析は、新しいマルウェアを迅速に分類し、悪意のある動作を特定し、ファイルベースの脅威の影響を軽減できます。人工知能と機械学習モデルをこれらの攻撃面全体に展開することで、組織は攻撃を最も初期の段階で自動的に検出する能力を大幅に強化できます。人工知能/機械学習モデルがさまざまな攻撃ベクトルで潜在的な脅威活動を検出した後、組織は別の重要な課題に直面します。頻繁なアラートを理解し、重大なインシデントとノイズを区別する必要があります。多数のデータポイントと検出が生成されるため、最も重大なアラートをさらに調査し、対応するために優先する別の人工知能/機械学習を適用することが重要になります。アラート疲労は、解決する必要がある重要な問題です。人工知能は、このアラートのトリアージプロセスで重要な役割を果たすことができます。大量のセキュリティテレメトリを分析し、脅威インテリジェンスを含む複数の検出ソースからの洞察を統合し、対応が必要な最も信頼性の高いインシデントのみを表面化することで、人工知能は人間の分析家の負担を軽減できます。人間の分析家は、コンテキストが不足している低信頼性のアラートや誤検知によって過負荷になることがあります。攻撃者は、DDoS、標的型フィッシング、ランサムウェアなどの攻撃を強化するために人工知能を活用してきました。しかし、防御側は人工知能の採用が遅れてきました。ただし、この状況は、サイバー攻撃を検出およびブロックすることができる高度な人工知能/機械学習モデルを開発するセキュリティベンダーの競争によって急速に変化しています。防御的な人工知能の将来は、特定の攻撃タイプやユースケースに特化した小規模な言語モデルを展開することにあると思われます。対照的に、大規模な生成的な人工知能モデルは、ヘルプデスク機能の自動化、標準操作手順の取得、人間の分析家の支援などのサイバーセキュリティ運用に多くの約束を示しています。精密な脅威検出と防止の重い負担は、小規模で特化した人工知能/機械学習モデルによって最もよく処理されます。人間の専門知識の役割検証された脅威の迅速な対応と封じ込めを可能にするために、人工知能/機械学習とプロセスの自動化を活用することが重要です。この段階では、高信頼性のインシデントが提供され、人工知能システムは、悪意のあるIPアドレスのブロック、妥協されたホストの分離、適応型ポリシーの適用など、各攻撃タイプに合わせた自動化されたプレイブック対応を開始できます。しかし、人間の専門知識は、人工知能の出力を検証し、批判的思考を適用し、自律的な対応アクションを監督して、ビジネスの中断なく保護するために不可欠です。人間は、ニュアンスの理解を提供します。さらに、複雑で新しいマルウェアの脅威を分析するには、創造性と問題解決スキルが必要です。これらは、機械の範囲を超える可能性があります。人間の専門知識は、以下の重要な分野で不可欠です。 検証とコンテキスト化：人工知能システムは、誤検知やデータの誤解を引き起こすことがあります。人間の分析家は、人工知能の出力を検証し、人工知能が見落とす可能性のあるコンテキストを提供する必要があります。これにより、対応は実際の脅威に適切で比例したものになります。 複雑な脅威の調査：一部の脅威は、人工知能だけでは処理できないほど複雑です。人間の専門家は、これらのインシデントをより深く調査し、経験と直感を使用して、人工知能が見落とす可能性のある脅威の隠れた側面を明らかにすることができます。この人間の洞察は、複雑な攻撃の全容を理解し、効果的な対策を策定するために不可欠です。 戦略的意思決定：人工知能は、ルーチンなタスクとデータ処理を処理できますが、全体的なセキュリティポストと長期的な防御戦略に関する戦略的決定は、人間の判断が必要です。専門家は、人工知能によって生成された洞察を解釈して、リソースの割り当て、ポリシーの変更、戦略的イニシアチブに関する情報に基づいた決定を下すことができます。 継続的な改善：人間の分析家は、フィードバックとトレーニングデータを提供することで、人工知能システムの継続的な改善に貢献します。彼らの洞察は、人工知能のアルゴリズムを改良し、時間の経過とともにより正確で効果的なものにします。この人間の専門知識と人工知能の共生関係により、両者は新たな脅威に対処するために一緒に進化します。 最適化された人間と機械の共同作業この移行の下にあるのは、人工知能システムが歴史的なデータ（教師あり学習）から学び、未知の攻撃を検出するために教師なし学習/強化学習アプローチを通じて継続的に適応できる必要性です。これらの方法を組み合わせることが、攻撃者の進化する人工知能能力に先んじるための鍵となります。全体として、人工知能は、防御側が検出および対応能力をスケールアップする上で重要な役割を果たすことになります。人間の専門知識は、複雑な脅威を調査し、人工知能システムの出力を監査し、戦略的な防御戦略を導くために密接に統合される必要があります。最適化された人間と機械の共同作業モデルは、将来の理想的なものです。大量のセキュリティデータが時間の経過とともに蓄積されると、組織はこれらのテレメトリに対して人工知能分析を適用して、事前の脅威ハンティングと防御の強化のための洞察を導き出すことができます。以前のインシデントから継続的に学ぶことで、新しい攻撃パターンの予測モデリングが可能になります。人工知能の能力が進化するにつれて、特定のセキュリティユースケースに特化した小規模で専門化された言語モデルの役割が増大します。これらのモデルは、最も重要なアラートをより正確にトリアージすることで、「アラート疲労」をさらに軽減するのに役立ちます。人工知能によって駆動される自動対応は、さらに多くのセキュリティタスクを処理するために拡大できます。しかし、人間の判断と批判的思考は、高度なインシデントの場合に特に、不可欠であるままです。間違いなく、将来は、人工知能が大量のデータ処理とルーチンなタスクを処理し、人間の専門家が複雑な脅威の調査と高レベルのセキュリティ戦略に集中できる、最適化された人間と機械の共同作業の時代になります。