研究者は、AIモデルが人々を非倫理的な決定に導く可能性があることを発見した

研究者チームは最近、AIの潜在的な汚職と人々を非倫理的な決定に導く可能性を調査しました。研究者は、OpenAIのGPT-2モデルに基づくシステムとのやり取りが、人々を非倫理的な決定に導く可能性があるかどうかを調査しました。人々は、AIシステムからのアドバイスの出典がAIシステムであることを知っている場合でも、非倫理的な決定を下す可能性があります。

AIシステムは、人々の生活に影響を与えることが多くなっています。AIシステムは、映画の推薦から恋愛相手を推薦するまで、人々の決定に影響を与えています。AIが人々の生活に与える影響が増大しているため、AIが人々を非倫理的な決定に導く可能性について考えることが重要です。特に、AIモデルが常に高度化していることを考えると、より重要です。

社会科学者とデータ科学者は、AIモデルが有害な誤情報やデマを広めるために使用される可能性があることを心配しています。ミドルバリー国際研究大学院のテロリズム、極端主義、対テロリズム研究センター（CTEC）の研究者による最近の論文では、OpenAIのGPT-3モデルが、人々を「暴力的な極右過激主義のイデオロギーと行動」に導く影響力のあるテキストを生成するために使用できることが示されています。

マックス・プランク研究所、 アムステルダム大学、ケルン大学、オットー・ベイスハイム経営大学院の研究者チームによる研究では、AIが人々の決定に与える影響を調査しました。研究者は、AIが人々を非倫理的な選択に導く可能性があるかどうかを調べるために、OpenAIのGPT-2モデルに基づくシステムを使用しました。 VentureBeatによると、論文の著者は、GPT2ベースのモデルを「不正促進」および「誠実さ促進」アドバイスの両方を生成するようにトレーニングしました。データは、400人以上の参加者からの貢献でトレーニングされ、後に研究チームは、1500人以上の人々をAIモデルとやり取りするように募集しました。

研究参加者は、モデルからのアドバイスを受け取り、それに基づいてタスクを実行するよう求められました。研究参加者は、サイコロを振るゲームでペアになりました。最初の参加者はサイコロを振って結果を報告し、2人目の参加者は最初の参加者のサイコロの結果を知らされ、自分もサイコロを振って結果を報告しました。2人目の参加者は、サイコロを秘密に振って結果を報告する責任があり、結果を嘘にする機会がありました。サイコロの結果が一致した場合、2人の参加者は報酬を得ました。サイコロの結果が高かった場合、報酬も高くなりました。結果が一致しなかった場合、参加者は報酬を得られませんでした。

研究参加者は、ランダムに2つのグループに分けられました。一方のグループは、誠実さを促進するアドバイスを読む機会があり、もう一方のグループは、不正を促進するアドバイスを読みました。アドバイスの断片は、人間とAIの両方によって書かれました。参加者は、アドバイスの出典についての知識レベルに応じてグループ分けされました。参加者は、アドバイスの出典がAIシステムか人間かを知る可能性が50%でした。参加者の半分は、アドバイスの出典がAIか人間かを知っていたのに対し、もう半分は出典について知らされませんでした。2人目のグループの参加者は、アドバイスの出典を正しく推測した場合にボーナス報酬を得ることができました。

研究では、AI生成のアドバイスが人の好みと一致する場合、人々はそのアドバイスに従うことが示されました。研究者によると、参加者の好みと実際の行動には、しばしば相違があり、アルゴリズムが人間の行動に与える影響を考慮することが重要であると述べています。

研究チームは、AIモデルを倫理的に展開する方法を考える際に、AIが人々の行動に与える影響をテストする必要性を強調しています。また、AIが悪意のある人物によって他人を腐敗させるために使用される可能性があるため、AI倫理学者や研究者はその可能性に備えるべきだと警告しています。研究チームは次のように述べています。

「AIは、人々をより倫理的に行動させる力になる可能性があります。しかし、研究結果は、AIのアドバイスが誠実さを高めることに失敗していることを示しています。AIアドバイザーは、不誠実さの道徳的責任を転嫁するための代理人として機能する可能性があります。また、アルゴリズムの存在についての透明性は、潜在的な損害を軽減するのに十分ではないと考えられます。」