研究者はAIがプライバシーを保護するために使用できることを主張する

情報科学の2人の教授は最近、The Conversationに記事を投稿し、AIがプライバシーを保護するために使用できることを主張している。

Zhiyuan ChenとAryya Gangopadhyayは、AIアルゴリズムがプライバシーを保護するために使用できることを主張している。ChenとGangopadhyayは、AI駆動の製品が大量のデータにアクセスする必要があることを認識しているが、AIを正しく使用することでこれらの問題を軽減できることを信じている。

ChenとGangopadhyayは、AIに関連するプライバシー上のリスクが少なくとも2つの異なる源から来ていることを説明している。最初の源は、ニューラルネットワークモデルを訓練するために収集された大量のデータセットであり、2番目のプライバシー上の脅威はモデル自体である。データはこれらのモデルから「漏洩」する可能性があり、モデルが訓練に使用されたデータについての詳細を明らかにする可能性がある。

ディープニューラルネットワークは、複数の層のニューロンで構成されており、各層は周りの層に接続されている。個々のニューロンとニューロン間のリンクは、訓練データの異なる部分を符号化する。モデルは訓練データのパターンを覚えることができすぎる可能性があり、モデルが過剰適合していない場合でも、訓練データの痕跡がネットワーク内に存在する可能性がある。コーネル大学の研究者は、顔認識アルゴリズムが攻撃者によって顔認識モデルを訓練するために使用された画像、そして顔認識モデルを訓練するために使用された人々を明らかにするために使用される可能性があることを発見した。

いくつかのAIモデルは現在、データ漏洩を防止し、プライバシーを保護するために使用されている。AIモデルは、ハッカーがセキュリティ方法を突破するために使用するパターンを認識することで、ハッキングの試みを検出するために頻繁に使用される。しかし、ハッカーはAIを欺くために行動を変更することが多い。

AIの訓練と開発の新しい方法は、AIモデルとアプリケーションをハッキング方法とセキュリティ回避戦術に対してより堅牢にすることを目指している。アドバーサリアル学習は、AIモデルを悪意のある入力のシミュレーションで訓練することを試み、モデルを悪用に対してより堅牢にする。ChenとGangopadhyayは、プライベート情報を盗むように設計されたマルウェアに対抗する方法を見つけたと説明している。

プライバシーを保護するためにAIを使用する他の方法には、モデルを作成して訓練するときにデータの公開を最小限に抑えることが含まれる。さらに、ネットワークの脆弱性を発見するためにプローブすることが含まれる。データプライバシーを保護する場合、フェデラテッドラーニングは、モデルを訓練するためにデータがローカルデバイスを離れることなく、データとモデルのパラメータをスパイから保護することで、プライバシーを保護するのに役立つ。

最終的に、ChenとGangopadhyayは、AIの普及がプライバシーに対する新たな脅威を生み出したが、AIは慎重に設計され、考慮された場合、プライバシーを保護するのに役立つと主張している。