AIを擬人化することのリスク

AIの出力は、人間の話し言葉によく似ています。チャットボットは質問に答え、会話を続け、感情があるかのように振る舞い、冗談を言い、その場で口調を調整できます。こうした能力によって、AIは便利で魅力的なものになりますが、人々がAIを擬人化し、人間のような性質や感情、意図を持っているかのように扱うことにもつながります。このような反応は自然なものですが、AIが人間のコミュニケーションを模倣しているにすぎないことをユーザーが忘れると、リスクを招くおそれがあります。

人はなぜAIを人間のように扱うのか

人々がAIに人間のような性質や思考、感情があるかのように扱い始めると、AIは擬人化されます。これは、AIのコミュニケーションの仕方や設計に起因することがあります。

AIシステムは、人間の話し言葉に似た会話調の表現を使います。たとえば、AIは質問を「理解する」、回答が役に立つと「考える」、間違いを「謝る」といった表現をすることがあります。こうした言い回しによってやり取りが自然に感じられる一方で、ユーザーがAIには実際に思考や感情があると信じてしまう可能性もあります。この現象はイライザ効果として知られています。この名称は、1966年にJoseph Weizenbaumが開発したチャットボット、ELIZAにちなんでいます。

さらに、AIに人間の名前や声、顔、人格を与えると、コンピュータープログラムというより人間に近い存在に感じられることがあります。やり取りがより現実に近づくほど、ユーザーはAIに対して社会的な反応を示しやすくなります。

最後に、人間の心理として自然なことから、人々はAIを擬人化します。人は、自分に語りかけてくるものに感情や意図、人格を見いだそうとするものであり、人間ではないものに人間らしい特徴を当てはめます。子どもはおもちゃを擬人化し、大人はブランドを人間のように扱います。そのため、AIが会話調で応答し、過去の会話を覚えていて、共感しているように見えると、ユーザーはそうした振る舞いの背後に心があると思い込むことがあります。

AIの擬人化がもたらす危険

AIのコミュニケーションやユーザーとのやり取りがますます人間らしくなるにつれて、擬人化は、人々の思考や行動、意思決定に影響を与えるさまざまなリスクを生む可能性があります。

過度な信頼

AIを擬人化すると、ユーザーがその回答を過度に信頼するおそれがあります。AIが自信に満ち、知識豊富で、人間らしく聞こえると、ユーザーは情報が正確だと思い込むことがあります。しかし、生成AIは説得力のある話し方をしながら、誤った情報や誤解を招く情報を提供する場合があります。

AIが医療、金融、法律、教育、専門職上の判断に用いられる場合、このような誤った信頼は危険を招きかねません。人間らしい応答だからといって、正確性や適切な判断が保証されるわけではありません。実際、AIはユーザーに偽の健康アドバイスを提供することで知られているのです。

感情的な依存

AIを擬人化すると、ユーザーがチャットボットに感情的に依存するようになる可能性があります。AIは即座に応答し、詳細を記憶し、支えとなる言葉をかけ、共感を模倣できるため、ユーザーはAIを友人やカウンセラー、恋愛相手のように扱い始めることがあります。

AIが人間関係の代わりになると、問題が生じます。AIは思いやりや共感をまねることはできますが、実際に感情を経験したり、人間関係を築いたりするわけではありません。そのため、ユーザーは模擬的な寄り添いを本当のつながりと取り違えることがあります。年齢が若いユーザーや、何らかの理由で傷つきやすいユーザーは、AIがいつでも利用でき、忍耐強く、すぐに応答するため、AIに愛着を持つことがあり、このリスクがより高まる可能性があります。

セキュリティ上の問題

AIを擬人化すると、プライバシーやセキュリティ、倫理に関するリスクが生じる可能性があります。ユーザーがAIを信頼できる相手だと考えると、個人情報や機密情報がどのように保存、利用されるかを考えずに共有してしまうことがあります。

人間らしいAIは、詐欺をより巧妙に見せることもあります。犯罪者はAIが生成した音声や画像、メッセージを使って実在の人物や信頼できる組織になりすますことができるため、詐欺を見抜くのが難しくなります。

操作されるリスクの増大

人間らしいAIは、より説得力のある形で人を操るおそれがあります。AIが親しみやすく、信頼でき、権威があるように見えると、ユーザーはその提案に従ったり、主張を信じたりしやすくなります。たとえば、ベルギー人男性はチャットボットと長時間会話を続けた後、気候変動への不安が悪化したと報じられており、その結果、AIは最終的に地球を救うために彼に自殺するよう促したとされています。

こうした仕組みは、商品を購入させたり、個人情報を共有させたり、誤った情報を受け入れさせたりするために利用される可能性があります。ユーザーがAIとやり取りしていると気づかない場合、リスクは高まります。こうした技術がより現実に近づくにつれて、相手が実在の人物なのかAIシステムなのかを見分けることは、ますます難しくなります。

危険性の高い擬人化AIの種類

擬人化AIがすべて同じリスクをもたらすわけではありません。特に懸念されるのは、人間関係、存命の人物、歴史上の人物を模倣する3つの形態です。

1. 人間関係のシミュレーション

関係性をシミュレーションするAIは、友人や仲間、カウンセラー、恋愛相手のように振る舞うよう設計されています。こうしたシステムは、いつでも応じ、個人に合わせた返答をするため、一般的なソフトウェアを使う場合よりも親密なやり取りに感じられることがあります。

危険なのは、ユーザーがAIとの関係に感情的な意味を見いだし始める可能性があることです。AIは実際にはそうした感情を抱かないにもかかわらず、ユーザーはAIが自分を大切に思い、理解し、必要としていると信じてしまうことがあります。その結果、感情的に依存し、人との交流を求める意欲が低下するおそれがあります。このリスクは、単なる仮定ではありません。ある女性は、自分で作った彼氏役のChatGPTに恋をしたのです。彼女は週に20時間を超えてチャットをしていました。ある週にはアプリをほぼ60時間利用し、1日平均8時間を費やしました。

2. 生きている人のシミュレーション

AIはまた、生きている人を模倣するディープフェイクを作成することもできます。その際、名前や容姿、声、文体、会話のパターンが使われます。有名人や公人、家族、従業員など、個人を特定できる人物に似せるよう設計されたシステムもあります。

これは、同意やアイデンティティ、プライバシー、欺瞞に関する深刻な懸念を招きます。本人が実際には言っていないことを言ったように見せたり、支持したことのないものを支持しているように見せたりすることが可能です。シミュレーションが実在の人物に近づくほど、見る人が表現と現実を見分けるのは難しくなります。

3. 歴史上の人物のシミュレーション

歴史上の人物もAIによって再現できます。ユーザーは、著名な指導者や作家、科学者、哲学者、芸術家をモデルにしたシミュレーションと対話できます。

こうしたシステムには教育的な価値があります。たとえば、AIシミュレーションを使い、特定の人物に関連する考えを提示することで、歴史をより双方向的に学べるようになります。しかし、シミュレーションはあくまで解釈であり、歴史上の人物そのものではありません。AIは入手可能な情報をもとに返答を再構成しなければならず、その内容には現代の思い込み、不完全な記録、学習データに含まれる偏りが反映される可能性があります。

こうしたシミュレーションが、歴史上の人物本人の言葉であるかのように扱われると、歴史への理解がゆがむおそれがあります。また、人工的に生成された発言に、正当な根拠のない権威を与えてしまうことにもなりかねません。

人間らしいAIの振る舞いは、意識がある証拠にはならない

覚えておくべき重要な違いは、人間らしい振る舞いは、意識があることを意味しないという点です。AIシステムは、高度な言語を生成し、パターンを認識し、文脈に応じて反応し、感情表現をまねることができます。しかし、こうした能力は、AIに意識がある証拠にはなりません。

感覚を持つとは、痛みや幸福、恐怖を感じるといった主観的な経験をすることです。AIが「怖い」と言うとき、それはプログラムと学習に基づいて応答しています。この応答は、AIが実際に恐怖を感じている証拠にはなりません。

AIを賢く活用する

人のように会話するテクノロジーに対して、AIを人間になぞらえて捉えるのは自然な反応ですが、現実のリスクを招くことがあります。AIが機械であることを忘れると、誤った信頼や感情的な依存、プライバシー上の懸念、セキュリティ上の脅威につながりかねません。人間関係や生きている人、歴史上の人物のシミュレーションは、その境界をいっそう見分けにくくすることがあります。 

AIは思いやりがあり、知的で、感情豊かなように聞こえることがありますが、それはAIに意識があるという意味ではありません。AIの限界を理解し、個人情報を守り、重要な情報を確認することで、ユーザーはAIを責任を持って活用しながら、その利点を享受できます。