研究者はAIが人のプライバシーを保護するために使用できることを信じている

情報科学の2人の教授、Zhiyuan ChenとAryya Gangopadhyayは、The Conversationに記事を投稿し、AIが人のプライバシーを保護するために使用できることを主張している。ChenとGangopadhyayは、AIアルゴリズムが人のプライバシーを守るために使用できることを示唆し、AIの他の用途によって生じたプライバシーに関する懸念の一部に対処できるとしている。ChenとGangopadhyayは、AI駆動の製品が大量のデータにアクセスすることなく機能しないことを認めており、最初の見方ではプライバシーを保護する試みと矛盾しているように見える。しかし、AIがより多くの業界やアプリケーションに広がるにつれて、より多くのデータが収集され、データベースに保存されるため、データベースへの攻撃の誘惑が増す。ただし、ChenとGangopadhyayは、AIを正しく使用することで、これらの問題を軽減できることを信じている。ChenとGangopadhyayは、AIに関連するプライバシー上のリスクは、少なくとも2つの異なる源から生じることを説明している。最初の源は、ニューラルネットワークモデルをトレーニングするために収集された大量のデータセットであり、2番目のプライバシー上の脅威はモデル自体である。データはこれらのモデルから潜在的に「漏洩」し、モデルの動作がトレーニングに使用されたデータの詳細を明らかにする可能性がある。ディープニューラルネットワークは、複数のニューロンの層で構成されており、各層は周囲の層に接続されている。個々のニューロンおよびニューロン間のリンクは、トレーニングデータの異なるビットを符号化する。モデルはトレーニングデータのパターンを覚えるのがあまりに優れており、モデルが過剰適合していない場合でも、トレーニングデータの痕跡がネットワーク内に存在する可能性がある。悪意のあるアクターは、トレーニングデータの側面を推測できる可能性があり、Cornell Universityの研究で発見されたように。Cornellの研究者は、顔認識アルゴリズムが攻撃者によって利用され、顔認識モデルをトレーニングするために使用された画像、そしてそれにより顔認識モデルをトレーニングするために使用された人々を明らかにできることを発見した。Cornellの研究者は、攻撃者が元のモデルにアクセスできない場合でも、攻撃者はネットワークをプローブして、特定の人がトレーニングデータに含まれているかどうかを判断できることを発見した。いくつかのAIモデルは現在、データ漏洩から保護し、人のプライバシーを確保するために使用されている。AIモデルは、ハッキングの試みを検出するために、ハッカーがセキュリティ方法を侵入するために使用するパターンを認識するために頻繁に使用される。しかし、ハッカーはAIを欺くために行動を変更することが多い。AIの新しいトレーニング方法と開発は、AIモデルとアプリケーションをハッキング方法とセキュリティ回避戦術に対してより脆弱性が少なくすることを目的としている。Adversarial学習は、AIモデルを悪意のあるまたは有害な入力のシミュレーションでトレーニングすることで、モデルをより堅牢なものにすることを目的としており、「Adversarial」の名前が付けられている。ChenとGangopadhyayによると、彼らの研究は、方法を見つけた。ChenとGangopadhyayは、モデルに不確実性を導入することが最も効果的であると説明した。目標は、悪意のあるアクターがモデルが特定の入力に反応する方法を予測することをより困難にすることである。プライバシーを保護するためにAIを使用する他の方法には、モデルを作成およびトレーニングするときにデータの公開を最小限に抑えること、およびネットワークの脆弱性を発見するためのプローブが含まれる。データのプライバシーを保護する場合、フェデレーテッドラーニングは、モデルをトレーニングするためにデータがローカルデバイスを離れることなく、データを保護し、モデルのパラメータの多くをスパイから保護することを可能にするため、機密データのプライバシーを保護するのに役立つ。最終的に、ChenとGangopadhyayは、AIの普及によって新しいプライバシー上の脅威が生じたと主張しているが、AIは、注意と配慮をもって設計された場合、プライバシーを保護するのに役立つことができる。