多様な専門家チームが開発したニューラルネットワークの防御システム

ミシガン大学のエンジニア、生物学者、数学者からなる多様なチームは、適応免疫システムに基づくニューラルネットワークの防御システムを開発しました。このシステムは、さまざまなタイプの攻撃からニューラルネットワークを守ることができます。

悪意のあるグループは、ディープラーニングアルゴリズムの入力を調整して、間違った方向に導くことができます。これは、識別、機械ビジョン、自然言語処理（NLP）、言語翻訳、論争検出など、多くのアプリケーションで大きな問題となり得ます。

頑健なアドバーサリアル免疫インスパイアドラーニングシステム

新しく構築された防御システムは、Robust Adversarial Immune-Inspired Learning System（RAILS）と呼ばれています。この研究は、IEEE Accessに掲載されています。

アルフレッド・ヒーローは、ジョン・H・ホランド・ディスティングイッシュド・ユニバーシティ教授であり、この研究の共同リーダーです。

「RAILSは、適応免疫システムに基づいたアドバーサリアルラーニングの最初のアプローチであり、固有免疫システムとは異なります」とヒーローは述べています。

チームは、ディープニューラルネットワークは、すでに脳にインスパイアされたものであるだけでなく、哺乳類の免疫システムの生物学的プロセスを模倣することもできることを発見しました。この免疫システムは、特定の病原体に対して防御するように設計された新しい細胞を生成します。

インディカ・ラジャパクセは、計算機医学および生物情報学の准教授であり、この研究の共同リーダーです。

「免疫システムは、驚きに備えて構築されています。素晴らしい設計であり、常に解決策を見つけるでしょう」とラジャパクセは述べています。

免疫システムの模倣

RAILSは、免疫システムの自然な防御を模倣し、ニューラルネットワークへの疑わしい入力を識別および対処することができます。生物学チームは、抗原に対するマウスの適応免疫システムの反応を研究して、免疫システムのモデルを作成しました。

当時、生物情報学の博士課程の学生だったステファン・リンドスリーが、情報のデータ分析を実施しました。リンドスリーは、生物学者とエンジニアの間で情報を翻訳することを支援し、ヒーローのチームがコンピューターで生物学的プロセスをモデル化することを可能にしました。チームは、コードに生物学的メカニズムを組み込むことでこれを実現しました。

RAILSの防御は、アドバーサリアル入力でテストされました。

「私たちは、RAILSの学習曲線と実験から抽出された曲線を比較するまで、本当に生物学的プロセスを捉えていたのか確信していませんでした。二つはまったく同じでした」とヒーローは述べています。

RAILSは、アドバーサリアル攻撃に対して現在使用されている2つの一般的なマシーンラーニングプロセス、Roust Deep k-Nearest Neighborと畳み込みニューラルネットワークを上回りました。

レン・ワンは、電気電子工学の研究員であり、ソフトウェアの開発と実装において主要な役割を果たしました。

「この研究の非常に有望な点は、私たちの一般的なフレームワークがさまざまなタイプの攻撃に対して防御できることです」とレン・ワンは述べています。

研究者は、RAILSを8つの異なるアドバーサリアル攻撃に対して、画像識別をテストケースとして評価しました。RAILSはすべてのケースで改善を示し、さらに、最も損害を与えるアドバーサリアル攻撃であるProjected Gradient Descent攻撃に対して保護することもできました。RAILSは、全体的な精度も向上させました。

「これは、美しいダイナミカルシステムを理解するために数学を使用するという驚くべき例です。RAILSから学んだことを活用して、免疫システムをより迅速に機能させることができるかもしれません」とラジャパクセは述べています。