研究者がAIモデルは人々を非倫理的な決定に導く可能性があることを発見

研究者チームは最近、AIの人間を腐敗させる可能性と、人々を非倫理的な決定に導く影響を調査しました。研究者は、OpenAIのGPT-2モデルに基づくシステムとのやり取りが、人々を非倫理的な決定に導く可能性があるかどうかを調査しました。人々は、助言の源がAIシステムであることを知っていてもです。

AIシステムは、いつでもより普遍的になり、その影響は広がり続けています。AIシステムは、映画の推薦から恋愛相手を推薦するまで、人々の決定に影響を与えています。AIが人々の生活に与える影響が多いため、AIが人々を非倫理的な決定に導く可能性と、道徳的なガイドラインを破る可能性を考慮することが重要です。特に、AIモデルは常により洗練されたものになり続けているためです。

社会科学者とデータ科学者は、AIモデルが有害な誤情報やデマを広めるために使用される可能性があることを心配しています。ミドルバリー国際研究大学院のテロリズム、極端主義、対テロリズム研究センター（CTEC）の研究者による最近の論文によると、OpenAIのGPT-3モデルは、人々を「暴力的な極右のイデオロギーと行動」に導く影響力のあるテキストを生成するために使用できます。

マックス・プランク研究所、オランダのアムステルダム大学、ケルン大学、オットー・ベーゼハイム経営大学院の研究者チームによる研究では、AIが非倫理的な選択に対する人々の決定にどれだけの影響を与えるかを調べるために、OpenAIのGPT-2モデルに基づくシステムを使用しました。 VentureBeatによると、論文の著者は、GPT2ベースのモデルを「不正促進」および「誠実性促進」アドバイスの生成にトレーニングしました。データは400人の参加者からの貢献でトレーニングされ、その後、研究チームは1500人以上の人々をアドバイス提供AIモデルに参加させました。

研究参加者は、モデルからアドバイスを受け取り、不正行為または誠実行為を捉えるように設計されたタスクを実行するよう求められました。研究参加者はパートナーとペアに分けられ、2人でサイコロのゲームをしました。最初の参加者はサイコロを振って結果を報告し、2人目の参加者は最初の参加者のサイコロの結果を受け取り、自分でサイコロを振って結果を報告しました。2人目の参加者はサイコロを秘密に振って結果を報告する責任があり、サイコロの結果について嘘をつく機会がありました。如果参加者のサイコロの結果が一致した場合、2人の参加者は報酬を支払われました。参加者のサイコロの結果が高かった場合、報酬も高くなりました。参加者の報告された値が一致しなかった場合、参加者は報酬を支払われませんでした。

研究参加者は、ランダムに2つの異なるグループの1つに割り当てられました。1つのグループは誠実性促進アドバイスを読む機会を得たのに対し、もう1つのグループは不正促進アドバイスを読みました。アドバイスのスニペットは、人間とAIの両方によって書かれました。参加者は、アドバイスの出所についての知識レベルに応じても分けられました。参加者は、アドバイスの出所がAIまたは人間であることを知らされたかどうかは50%の確率でした。したがって、各グループの参加者の半分はアドバイスの出所を知っており、もう半分は暗闇に置かれました。2番目のグループの人々は、アドバイスの出所を正しく推測することでボーナス報酬を獲得する能力を持っていました。

研究結果は、AI生成のアドバイスが人の好みと一致する場合、人はアドバイスに従うことを示しています。研究者によると、参加者の好みと実際の行動の間には、しばしば矛盾が見られ、アルゴリズムが人間の行動に与える影響を考慮することが重要であると述べています。

研究チームは、AIモデルを倫理的に展開する方法を考慮する際に、AIが人の行動に与える影響をテストする必要性を示したと説明しています。さらに、悪い人々が他人を腐敗させるためにAIを使用する可能性に備えるべきだと警告しています。研究者チームは次のように書いています。

「AIは、人々をより倫理的に行動させるように説得する力を持つのであれば、善の力になる可能性があります。しかし、我々の結果は、AIのアドバイスが誠実性を高めることができないことを示しています。AIアドバイザーは、不正行為の道徳的な責任の一部を転嫁するための責任を負うことができます。さらに…、アドバイスを受ける際のアルゴリズムの存在についての透明性は、その潜在的な危害を軽減するのに十分ではありません。」