ハッカーが人工知能をどのように利用しているか

人工知能（AI）は、世界経済全体で価値のある技術であることを証明してきました。

企業は、過去数年間で発生した出来事に適応するために苦労しており、一部の企業は、デジタル変革の5年分を短期間に実施しました。例えば、フリトレーの場合のように、ハリス・ポールとアペンによると、AIの予算は、世界的なパンデミックの間に55%増加しました。

どのようなツールと同様に、人工知能には固有の道徳的価値はありません。AIの有用性や有害性は、システムが「学習する」方法と、人間が最終的にそれを使用する方法によって決まります。

AIを利用しようとする試みの中には、例えば「犯罪を起こす前に予測する」などの試みがありますが、これらは、偏ったデータでトレーニングされたモデルは人間の欠点を複製する傾向があることを示しています。アメリカの司法制度のデータを使用してAIをトレーニングした結果、悲劇的に 偏ったAIの推論につながりました。

他の例では、人間はAIの破壊的な潜在能力をより故意に利用する方法を選択します。ハッカーは、攻撃の範囲、有効性、利益性を向上させるために人工知能を使用することで、再び革新的な傾向を示しています。また、サイバー戦争が世界中でより一般的になるにつれて、ハッキングにおけるAIの応用はさらに発展することになります。

AIは機会とリスク

人工知能は、予測、ビジネス最適化、顧客維持戦略を改善したい企業にとって、多くの可能性を提供します。また、他者のデジタル主権を侵害しようとする者にとっては、幸先のいいことです。

以下は、人工知能が微妙な改ざんや攻撃的な行動に向けて利用される可能性のある方法です。

1. 機械ロジックの妥協

AIの主な利点は、人間の介入なしに予測可能で繰り返しのロジックを実行することです。これが最大の弱点でもあります。

他のデジタル構成と同様に、AIは外部からの侵入に対して脆弱である可能性があります。AIを動かす機械ロジックにアクセスして妥協したハッカーは、予測不可能または有害な行動を引き起こす可能性があります。例えば、工業状態モニタリングを担当するAIは、誤った読み取りやメンテナンスの通知を配信しない可能性があります。

AIへの投資の目的は、人間の介入を排除し、結果を二重に確認することであるため、このような攻撃によって引き起こされるインフラストラクチャまたは製品の品質への損害は、悲惨な故障が発生するまで気付かれない可能性があります。

2. 逆算アルゴリズムの利用

知的財産（IP）や消費者/商業データに関して、別の潜在的な危害の道は逆算の概念です。ハッカーは、実際に人工知能コード自体を盗む可能性があります。AIがどのように機能するかを研究するのに十分な時間があれば、最終的に AIをトレーニングするために使用されたデータセットを発見することができます。

これにより、AIの毒性化などの結果が生じる可能性があります。他の例としては、ハッカーがAIのトレーニングデータ自体を利用して、市場、競合他社、政府、ベンダー、一般の消費者に関する機密情報を入手することが挙げられます。

3. 目標の学習

ターゲットの監視は、ハッカーがAIを入手することによる最も心配される影響の1つです。AIは、ターゲットの能力、知識の分野、気質、標的、詐欺、または虐待の可能性について、人間の専門家よりもはるかに詳細な結論を導き出すことができます。

人工知能は、最もありそうもないデータポイントに基づいて、個人、チーム、グループについて驚くほど詳細な結論に到達することができます。例えば、「関与している」または「気を散らしている」個人は、キーボードを速く打ったり、マウスをいじったり、ブラウザのタブを素早く移動したりする可能性があります。「困惑している」または「ためらいがち」なユーザーは、ページ要素をクリックする前に停止したり、複数のサイトを再訪問したりする可能性があります。

適切な手で、これらのヒントは、人事部門が従業員の関与度を高めたり、マーケティングチームがWebサイトやセールスファネルを磨いたりするのに役立ちます。

しかし、ハッカーにとって、これらのシグナルは、標的となる人物について、人間には見えないヒントに基づいて、驚くほど繊細な心理プロファイルを作成することができます。サイバー犯罪者は、標的となる人物がフィッシング、スミッシング、ランサムウェア、金融詐欺、その他の種類の危害に対して脆弱であるかどうかを判断することができます。また、標的となる人物を騙すために、詐欺の試みが正当な源から来ているように見せる方法も学ぶことができます。

4. ネットワークの脆弱性の探査

サイバーセキュリティ専門家は、2021年に20,175の既知のセキュリティ脆弱性に関するデータを公開しました。これは、2020年に17,049の脆弱性があったときよりも増加しました。

世界は、1時間ごとにデジタル的に相互接続され、あるいは相互依存性が高まっています。世界には、現在、数十億の接続デバイスがオンラインで動作しており、さらに多くのデバイスが増えています。すべてのものがオンラインです。状態モニタリングセンサーからエンタープライズプランニングソフトウェアまでです。

人工知能は、サイバーセキュリティチームが、人間が単独で行うよりも速く、ネットワーク、ソフトウェア、ハードウェアの脆弱性を探査するのを支援することを約束しています。人工知能に基づく脆弱性管理は、デジタルインフラストラクチャの成長のスピードとスケールにより、セキュリティの脆弱性を探すことは、ダウンタイムのコストのために、オンラインでシステムを実行しながら行う必要があります。

AIがサイバーセキュリティツールである場合、双刃の剣でもあります。ハッカーは、「白帽子」ITスタッフと同じメカニズムを使用して、ネットワーク、ソフトウェア、ファームウェアの脆弱性を人間のITスペシャリストよりも効率的に探査することができます。

デジタル・アームズ・レース

サイバー犯罪におけるAIの応用は数多くありますが、以下はそのうちの数例です。

• ハッカーは、予め決定されたトリガーまたはしきい値を検出したときに悪意のある動作を実行する、別の無害なアプリケーションの中にAIコードを隠すことができます。
• 悪意のあるAIモデルは、生体認証入力を 監視することによって資格情報またはIT管理機能を決定するために使用される可能性があります。
• サイバー攻撃が最終的に失敗に終わったとしても、AIを装備したハッカーは、機械学習を使用して、どれが間違っていたのか、また次に何ができるのかを判断することができます。

自律走行車の開発を大幅に遅らせたのは、運転中のジープをハッキングしたという1つの話題であったようです。 運転中のジープをハッキングしたという話題であったようです。AIが重要な役割を果たす、注目されるハッキング事件が1件あれば、同様の世論の低下をもたらす可能性があります。いくつかの世論調査によると、平均的なアメリカ人は、すでに AIの利点について非常に懐疑的です。

常在のコンピューティングはサイバーセキュリティリスクを伴います。白帽子と黒帽子のハッカーは、両方ともそれを知っています。AIは、私たちのオンライン生活を安全に保つのに役立ちますが、それは新しいデジタル・アームズ・レースの中心でもあります。