Danielle Goode, VP of Marketing at Index Engines

AIが間違うとき、あなたも間違う

高度なAIトレーニングがサイバーリスクに与える影響人工知能（AI）はサイバーセキュリティの基盤的な力となりました。異常を特定することから脅威検出を加速することまで、迅速に反応する能力により、AIは現代のセキュリティ運用に不可欠となりました。しかし、偉大な力には重大な責任が伴います。私たちがAIに依存して重要なアプリケーションを保護し、機密データを守り、セキュリティ上の決定を下すにつれて、1つの真実が無視できないようになっています：不十分にトレーニングされたAIは、パフォーマンスの問題ではなく、脅威ベクトルです。AIソリューションにおけるバイアスは仮説ではありません。不十分にトレーニングされたり、臨時的なものである場合、それはプロセスに組み込まれることになります。サイバーセキュリティツールにそのバイアスが侵入すると、分析を歪めるだけでなく、盲点を生み出し、信頼を損ない、耐性を弱める可能性があります。ここで、高度なAIトレーニングは技術的な好みから戦略的なビジネスまたは取締役会の議論および要件へとシフトします。サイバーセキュリティチームと保護する組織にとって、これは技術スタックの核心に組み込まれる必要があり、後付けではありません。リスクの理解：バイアスが耐性を損なうサイバー犯罪者は常に機械をハッキングする必要はないので、検出のギャップや古いツールを利用するだけで済みます。時には、AIとデータが構築される方法を利用するだけで済みます。特に、悪いまたは限られたデータでトレーニングされた場合です。使用しているAIツールまたはベンダーが以前に見た脅威のみを探している場合、または攻撃が常に特定のパターンに従うと仮定している場合、新しいものや異なるものを完全に見逃す可能性があります。那がサイバー犯罪者が気づかれずにすみます。それが起こる方法は次のとおりです: 限られたデータ: AIが狭い範囲の例でトレーニングされた場合、通常のユーザーやソリューションから来ない異常な動作を認識できない可能性があります。 歪んだ優先順位: システムが特定の脅威よりも他の脅威に重点を置くようにプログラムされている場合、新しいものの初期の兆候を無視する可能性があります。 間違いを永続させる: 悪い仮定がシステムに繰り返しフィードバックされる場合、同じエラーを繰り返し、脅威を見逃したり、チームを誤報でフラッディングしたりします。 歪んだアラートによって駆動されるフィードバックループは、誤陽性を強化したり、脅威を完全に見逃したりする可能性があります。 高度なAIトレーニングが戦略的な差別化要因となる高度なAIトレーニングはパフォーマンスやスケーラビリティだけではなく、より耐性のあるサイバーセキュリティフレームワークを構築することです。それが起こるためには、いくつかの重要な点があります: 明確な意思決定: インフラストラクチャおよびセキュリティチームは、脅威とフラグがなぜなされたのかを理解する必要があります。そうすれば、信頼でき、必要なときに迅速に措置を講じることができます。 AIのトレーニング: AIが1種類の脅威のみから学習する場合、他の脅威、特に変化するまたは進化する攻撃を検出できません。多様な例、特に多形態の脅威を含む、幅広い例が必要です。 人間の監視: 最も優れたAIでも、2番目の目や研究ラボが必要です。専門家がトレーニングまたはMLの意思決定ツリーフレームワークをレビューおよびガイドすることで、プロセスを鋭く信頼性の高いものに保ちます。 データの完全性：サイバーリスクの基盤不完全なAIのサイバーリスク耐性における最も見過ごされやすい被害の1つは、データの完全性です。不一致またはバイアスのある分析は、脅威の優先順位の誤りから漏れた兆候まで、実際の被害をもたらす可能性があります。データの完全性を検証できるソリューション、特にファイルまたはワークロードレベルで、信頼のある環境では信頼の独自の差別化要因を提供します。いくつかのソリューションは、バックアップ、スナップショット、プロダクションデータをグラニュラーなレベルで調査することで新しいアプローチをとります。機械学習を使用して、破損、操作、または異常な動作の兆候を検出します。ただし、最後のランサムウェアの種類のように見えたものに基づいてだけではありません。進化するパターンに基づいています。この動作ベースの分析は、高度にトレーニングされた場合、既知の脅威と未知の脅威のギャップを埋めます。コアでは、静的なルールセットやバイアスのある歴史的傾向に依存しないはずです。代わりに、データの完全性の違反を複数の環境で時間の経過とともに学習し、問題がエスカレートする前に問題を分離することでチームを支援します。その場所で、高度にトレーニングされたAIが実際のビジネス価値を示します。テクノロジーを賢くするだけでなく、セキュリティを強化します。サイバーセキュリティにおける信頼できるAIの文化を構築する信頼できる、高度にトレーニングされたAIはプラグインではありません。まだ学ぶべきものであり、真の文化的変化です。サイバーリスク耐性とサイバーセキュリティのリーダーは: ベンダーや内部開発者からAIの説明可能性を要求し、課題します。 チームに、不十分にトレーニングされたAIモデルのリスクと透明性の重要性を教育します。 結果を追跡し、出力を追跡しません。システムまたはプロセスがアラートを減らすものの、進化する脅威を見逃す場合、機能していません。 AIがサイバーディフェンスのすべての層にさらに組み込まれるにつれて、この文化的基盤が準備されている人と露出している人を区別することになります。最終的な考え：信頼できるAIが現代のサイバーリスク耐性の基盤である私たちが悪い行為者と戦う将来は、さらに多くのアラートやより重い防御についてではなく、賢い、高度にトレーニングされたAIと、信頼と耐性を維持するソリューションについてです。これらのソリューションは、反応するだけでなく、予測し、適応し、脅威の風景と進化します。信頼できるデータの完全性の重要性を認識する組織は、次の攻撃でだけでなく、持続可能な耐性を構築するでしょう。チーム、顧客、規制当局の信頼を獲得するでしょう。信頼は、最終的な通貨である世界です。現実は簡単です：不十分にトレーニングされたAIはリスクを増大させます。しかし、高度にトレーニングされた信頼できるAIに投資することは、良い慣習だけでなく、競争上の優位性であり、リーダーシップの必須条件です。セキュリティに真剣であれば、より優れたAIに投資するかどうかという質問ではありません。どのくらいの速さでそれが起こるかということです。