ハッカーが人工知能をどのように利用しているか

人工知能（AI）は、世界経済全体で価値のある技術であることを証明してきました。

企業は最近の出来事に適応するために苦労していたところ、人工知能を活用してビジネスを改善する方法を見つけました。例えば、フリトレーは半分の期間で5年分のデジタル変革を実現しました。ハリス・ポールとアペンによると、人工知能の予算は新型コロナウイルス感染症の世界的流行の間に55%増加しました。

人工知能は、道徳的な価値を持たないツールです。人工知能の有用性や有害性は、システムが「学習」する方法と、人間が最終的にそれを使用する方法によって決まります。

人工知能を利用する試みの中には、偏ったデータで訓練されたモデルが人間の欠点を繰り返すことがあります。例えば、米国の司法制度のデータで訓練された人工知能は、悲劇的に偏った推論を生み出すことがあります。

人工知能の破壊的な可能性を利用するためには、人間がより意図的に人工知能を利用する必要があります。ハッカーは、人工知能を使用して攻撃の範囲、有効性、利益を向上させるために革新的な方法で人工知能を利用しています。また、サイバー戦争が世界的に増加するにつれて、人工知能の応用はさらに発展するでしょう。

人工知能は機会とリスク

人工知能は、予測、ビジネス最適化、顧客維持戦略を改善したい企業にとって、多くの可能性を提供します。しかし、他者のデジタル主権を侵害しようとする者にとっては、人工知能は大きな利益となります。

人工知能は、秘密の操作や攻撃的な行動に利用される可能性があります。以下は、そのような方法のいくつかです。

1. 機械の論理を侵害する

人工知能の最大の利点は、人間の介入なしに予測可能で繰り返し行える論理的な行為を実行することです。しかし、これが最大の弱点でもあります。

人工知能は、他のデジタル構成と同様に、外部からの侵入に脆弱です。ハッカーが人工知能の機械的論理を侵害し、予測不可能または有害な行為を引き起こすことができます。例えば、産業状態モニタリングを担当する人工知能が誤った読み取りやメンテナンス信号を送信しない可能性があります。

人工知能の投資の目的は、人間の介入と結果の二次的な判断を排除することです。したがって、このような攻撃によって引き起こされるインフラや製品の質の損害は、悲惨な故障が発生するまで気づかれない可能性があります。

2. 逆向きエンジニアリングアルゴリズムを利用する

知的財産や消費者データに関して、別の潜在的な危険性は逆向きエンジニアリングの概念です。ハッカーは人工知能のコード自体を盗むことができます。人工知能がどのように機能するかを研究する時間があれば、最終的に人工知能を訓練するために使用されたデータセットを発見することができます。

これにより、人工知能の毒性化などの結果が生じる可能性があります。ハッカーは、人工知能の訓練データ自体を利用して、市場、競合他社、政府、ベンダー、または一般的な消費者に関する機密情報を入手することもできます。

3. 標的について学ぶ

標的を監視することは、ハッカーが人工知能を利用することによる最も心配される結果の1つです。人工知能は、個人の能力、知識分野、気質、標的、詐欺、または虐待に対する脆弱性についての結論を導き出すことができます。

人工知能は、不確かなデータポイントに基づいて、人々、チーム、グループについて驚くほど詳細な結論に達することができます。例えば、「関与している」または「気を散らしている」個人は、キーボードを素早く入力したり、マウスを操作したり、ブラウザのタブを素早く移動したりします。一方、「困惑している」または「ためらいがちな」ユーザーは、ページの要素をクリックする前に停止したり、複数のサイトを再訪問したりすることがあります。

これらのサインは、人工知能を使用する企業にとって、従業員の関与を高めたり、ウェブサイトやセールスファネルを磨いたりするのに役立ちます。

しかし、ハッカーにとって、これらのサインは標的についての微妙な心理プロファイルを生み出すことができます。サイバー犯罪者は、人間には見えないヒントに基づいて、標的がフィッシング、スマッシング、ランサムウェア、金融詐欺、その他の種類の危害に対して脆弱であるかどうかを判断できます。また、標的を騙すために、詐欺の試みが正当な源から来ているように見せる方法も学ぶことができます。

4. ネットワークの脆弱性を探る

サイバーセキュリティ専門家は、2021年に20,175の既知のセキュリティ脆弱性についてデータを公開しました。これは、2020年に17,049の脆弱性があったことに比べて増加しました。

世界は、デジタル的に相互接続され、相互依存しています。小規模なネットワークから産業用ネットワークまで、数十億の接続デバイスがオンラインになっています。すべてのデバイスがオンラインになっています。状態モニタリングセンサーから企業計画ソフトウェアまでです。

人工知能は、サイバーセキュリティチームが、ネットワーク、ソフトウェア、ハードウェアの脆弱性を人間が独自にできるよりも迅速に探るのに役立ちます。デジタルインフラストラクチャの成長のスピードとスケールは、セキュリティの欠陥を修正するために、コードの数兆行を検索することはほぼ不可能です。これらのシステムは、ダウンタイムのコストのため、オンラインのままである必要があります。

人工知能はサイバーセキュリティツールですが、同時に二刃の剣です。ハッカーは、白帽ハッカーと同じメカニズムを使用して、ネットワーク、ソフトウェア、ファームウェアの脆弱性を探ることができます。

デジタルアームズレース

サイバー犯罪における人工知能の応用は数多くありますが、以下はそのうちのいくつかです。

• ハッカーは、予め決定されたトリガーまたはしきい値を検出すると、悪意のある動作を実行するベンイグノアプリケーション内に人工知能コードを隠すことができます。
• 悪意のある人工知能モデルは、生体認証入力を監視することで、資格情報またはIT管理機能を決定するために使用される可能性があります。指紋認証や音声認証などです。
• サイバー攻撃が最終的に失敗に終わったとしても、人工知能を装備したハッカーは、機械学習を使用して何が間違っていたか、次に何を違う方法で行うかを判断することができます。

運転中のジープをハッキングするという話題が広まったことで、自動運転車の開発が大幅に遅れたことがあります。人工知能が重要な役割を果たすサイバー攻撃が発生した場合、同様の世論の低下が起こる可能性があります。いくつかの世論調査によると、平均的なアメリカ人はすでに人工知能の利点について非常に疑わしいようです。

オムニプレゼントなコンピューティングはサイバーセキュリティリスクを伴います。白帽とブラックハットの両方のハッカーはそれを知っています。人工知能は、私たちのオンライン生活を安全に保つのに役立ちますが、新しいデジタルアームズレースの中心でもあります。