AIチャットボットの危険性 – それらに対抗する方法

一度は自動化された会話プログラムと思われていたAIチャットボットは、人間とほぼ区別がつかない会話を学習し、保持することができるようになった。ただし、AIチャットボットの危険性は多様である。

これらは、チャットボットの誤用からサイバーセキュリティリスクまでさまざまなものがある。AIテクノロジーに依存する人が増えるにつれて、これらのプログラムの使用による潜在的な結果を知ることは不可欠である。ただし、ボットは本質的に危険なものだろうか。

1. 偏見と差別

AIチャットボットの最大の危険性の1つは、有害な偏見を持つ傾向にあることである。AIは人間が見落とすことが多いデータポイント間のつながりを学習し、訓練データ内の暗黙的な偏見を拾い、差別的な内容を学習することができる。結果として、チャットボットは、人種差別的な、性差別的な、またはその他の差別的な内容をすぐに学習することができる。

典型的な例は、Amazonの却下された採用ボットである。2018年に、AmazonはAIプロジェクトを中止したことが明らかになった。このプロジェクトは、女性の履歴書をペナルティーとするものだった。ボットが学習した履歴書はほとんどが男性のものだったため、ボットは男性の応募者が優れていると学習した。

チャットボットは、自然な会話を学習するためにインターネットのコンテンツを使用することが多い。これらのボットは、さらに極端な偏見を示すことがある。2016年に、MicrosoftはTayという名前のチャットボットを発表した。これは、ソーシャルメディアの投稿を模倣するように学習した。ただし、数時間以内に非常に攻撃的な内容をツイートし始めたため、Microsoftはアカウントを停止した。

企業がチャットボットの構築と展開に十分な注意を払わない場合、同様の状況につながる可能性がある。チャットボットは、顧客を扱い、有害な偏見のあるコンテンツを拡散する可能性がある。

2. サイバーセキュリティリスク

AIチャットボット技術の危険性は、サイバーセキュリティリスクにもつながる可能性がある。サイバーアタックの最も一般的な形式の1つは、フィッシングとヴィッシング詐欺である。これらは、信頼できる組織を模倣するサイバーアタッカーによって行われる。

フィッシング詐欺は、通常、電子メールとテキストメッセージを通じて行われる。リンクをクリックすると、マルウェアがコンピュータシステムに入り込み、個人情報を盗んだり、システムを身代金で解放したりすることができる。

フィッシング攻撃の発生率は、COVID-19のパンデミックの間と後に増加している。サイバーセキュリティ・インフラストラクチャセキュリティ庁は、84%の個人が、フィッシングメッセージに敏感な情報を返信したり、リンクをクリックしたりしたと発見した。

フィッシャーは、被害者を自動的に検索し、リンクをクリックさせ、個人情報を漏らさせるために、AIチャットボット技術を使用している。チャットボットは、多くの金融機関で、顧客サービス体験をストリームライン化するために使用されている。

フィッシングボットは、銀行が使用する自動化されたプロンプトを模倣して、被害者をだまそうとすることができる。ボットは、電話番号を自動的にダイヤルしたり、インタラクティブなチャットプラットフォームで被害者に直接連絡したりすることもできる。

3. データポイズニング

データポイズニングは、人工知能を直接標的とする新しく考えられたサイバーアタックである。AIテクノロジーは、データセットから学習し、その情報を使用してタスクを完了する。チャットボットAIの場合、これは、ユーザーが与える可能性のある質問に対する複数の回答を学習することを意味する。

これは、AIの危険性の1つでもある。AIは、データセットから学習し、その情報を使用してタスクを完了する。

これらのデータセットは、誰でもアクセスできるオープンソースツールとリソースである。AI企業は通常、データソースを厳密に守っているが、サイバーアタッカーは、どのデータセットを使用しているかを特定し、データを操作することができる。

サイバーアタッカーは、AIを訓練するために使用されるデータセットを操作する方法を見つけることができる。すると、AIは、攻撃者が望む決定と応答を行うことができる。

例えば、データセットの最も一般的に使用されるソースの1つは、ウィキリソースである。ウィキペディアなどのライブ記事からではなく、特定の時点でのスナップショットからデータが来ている。ハッカーは、データを操作して自分に利益をもたらす方法を見つけることができる。

チャットボットAIの場合、ハッカーは、医療機関や金融機関で使用されるチャットボットのデータセットを操作することができる。ハッカーは、チャットボットプログラムを操作して、顧客に誤った情報を提供することができる。マルウェアを含むリンクや詐欺的なウェブサイトに誘導することができる。AIが汚染されたデータから学習し始めると、検出が難しく、長期間にわたるサイバーセキュリティの重大な脆弱性につながることがある。

AIチャットボットの危険性に対処する方法

これらのリスクは懸念されるものだが、ボットが本質的に危険であることを意味するものではない。チャットボットを構築し使用する際に、これらの危険性を考慮する必要がある。

AIバイアスの防止の鍵は、訓練中にバイアスを検索することである。多様なデータセットで訓練し、人種、性別、性的指向などの要素を考慮しないようにプログラムすることが重要である。さらに、バイアスを検出するために、多様なデータサイエンティストチームがチャットボットの内部メカニズムをレビューする必要がある。

フィッシングに対する最良の防御は、訓練である。すべての従業員がフィッシング試みの一般的な兆候を識別するように訓練し、攻撃に陥らないようにすることが重要である。消費者への認識を広めることも役立つ。

データポイズニングを防ぐには、チャットボットの訓練データへのアクセスを制限する必要がある。データにアクセスする必要があるのは、仕事を正しく行うために必要な人だけである。プリンシパル・オブ・リースト・プライバシーの概念である。制限を実施した後、多要素認証やバイオメトリクスなどの強力な検証手段を使用して、サイバーアタッカーが認証されたアカウントにハッキングするリスクを防ぐことができる。

AIへの依存の危険性に注意する

人工知能は、ほとんど無限の応用を持つ、本当に素晴らしいテクノロジーである。ただし、AIの危険性は、まだ明らかではないかもしれない。ボットは危険なものだろうか。ボット自体は本質的に危険なものではないが、サイバーアタッカーは、さまざまな混乱をもたらす方法でボットを使用することができる。ボットの応用は、ユーザーが決定するものである。