AIは存在の脅威ですか？

AI（人工知能）について議論する際に、よくある議論は、AIが存在の脅威であるかどうかです。答えを出すには、機械学習（ML）の背後にある技術を理解し、人間が擬人化する傾向があることを認識する必要があります。私たちは、現在利用可能なArtificial Narrow Intelligence（ANI）と、最も一般的にアポカリプティックなAIの描写に関連付けられるArtificial General Intelligence（AGI）の2種類のAIを探求します。

人工的狭い知能の脅威

ANIとは何かを理解するには、現在利用可能なすべてのAIアプリケーションがANIの一種であることを理解するだけで十分です。これらのAIは、特定の分野に特化しており、例えば、自動運転車は、ポイントAからポイントBへの移動を目的としたAIを使用します。別のタイプのANIは、チェスプログラムで、チェスをプレイするために最適化されており、強化学習を使用して自己改良する場合でも、チェスプログラムは自動運転車を操作することはできません。

ANIシステムは、世界を征服するために一般化された学習を使用することはできません。那が良いニュースです。悪いニュースは、人間のオペレーターの依存度が高いAIシステムは、偏ったデータ、人間のミス、または悪意のある人間のオペレーターによって影響を受ける可能性があるということです。

AI監視

人間がAIを使用してプライバシーを侵害し、場合によってはAI監視を使用して人々が自由に移動できないようにすることは、人類に与える最大の危険かもしれません。 中国、ロシア、その他の国は、COVID-19の間に規制を通過させ、それぞれの人口の動きを監視・制御することができました。これらの規制は、特に独裁的なリーダーがいる社会では、容易に削除することができません。

中国では、カメラが家の外に設置されており、場合によっては家の中にも設置されています。家人のメンバーが家を出ると、AIは出発と到着の時間を監視し、必要に応じて当局に通知します。さらに、顔認識技術を使用して、カメラによって識別されるたびに個人の動きを追跡することができます。これにより、AIを制御するエンティティに絶対的な力が与えられ、市民には何の救済策もありません。

このシナリオが危険なのは、腐敗した政府がジャーナリスト、政治的反対者、または政府の権威に疑問を抱く人々の動きを慎重に監視できるためです。政府の監視下にあるすべての動きを監視されていると、ジャーナリストや市民が政府を批判することをためらうことは容易に理解できます。

幸いなことに、多くの都市が顔認識技術が都市に浸透しないように闘っています。特に、ポートランド、オレゴンは最近、法律を制定し、顔認識技術の不必要な使用を禁止しました。これらの規制の変更は、一般の人々によって気づかれていないかもしれませんが、将来、都市が自治と自由を提供するか、抑圧的な都市となるかを決定する可能性があります。

自律型兵器とドローン

4500人以上のAI研究者が自律型兵器の禁止を求めており、Ban Lethal Autonomous Weaponsウェブサイトを作成しました。このグループには、ヒューマン・ライツ・ウォッチ、アムネスティ・インターナショナル、およびThe Future of Life Instituteなどの著名な非営利団体が署名者として参加しています。この研究所には、イーロン・マスク、ニック・ボストロム、スチュアート・ラッセルなどの著名な科学者が参加しています。

続ける前に、The Future of Life Instituteからのこの引用を共有します。自律型兵器の脅威についての懸念を理解するために、以下の引用が最も適切です。 “半自律型兵器とは異なり、人間の監視が必要である、倫理的かつ法的に合法であるターゲットを検証するために、完全に自律型兵器は人間の介入なしにターゲットを選択し、攻撃します。 “

現在、スマートボムは人間が選択したターゲットに向けて展開され、ボムはAIを使用してコースをプロットし、ターゲットに到達します。問題は、人間を方程式から完全に除外することです。

AIがターゲットを選択し、受け入れられる被害の種類を決定する場合、人間が介入しない場合は、戻ることができないポイントに達する可能性があります。これが、多くのAI研究者が自律型兵器の研究に反対する理由です。

自律型兵器の研究を阻止しようとすることには、複数の問題があります。最初の問題は、カナダ、米国、ヨーロッパなどの先進国が禁止に同意する場合でも、中国、北朝鮮、イラン、ロシアなどの国家が協力するとは限らないことです。2番目の、より大きな問題は、1つの分野で設計されたAIの研究とアプリケーションが、まったく別の分野で使用される可能性があることです。

例えば、コンピュータビジョンは、自動運転車、精密医療、他の重要なユースケースの開発に重要です。また、通常のドローンまたは自律型ドローンに改造できるドローンにも重要です。先進的なドローン技術の1つの潜在的なユースケースは、森林火災を監視して消火するドローンの開発です。これにより、消防士を危険から遠ざけることができます。このためには、危険な状況に飛行し、低可視性またはゼロ可視性の状況でナビゲートし、水を正確に落とすことができるドローンを構築する必要があります。この技術を自律型ドローンに使用して人間を選択的に標的にすることは、遠からぬ将来です。

これは危険な状況です。現在、誰もが自律型兵器の開発を促進したり阻止したりすることの影響を完全に理解していません。ただし、問題を注意深く監視し、内部告発者保護を強化することで、分野の専門家が乱用を報告できるようになる可能性があります。

悪意のあるオペレーターの場合、AIにバイアスが生じる可能性があります。

AIバイアス

AIの最も報告されていない脅威の1つはAIバイアスです。これは、人間がAIにデータを提供するときに発生するため、理解するのは簡単です。AIは、人間が提供したデータを使用してパターンを認識し、AIは誤った結論に達し、社会に悪影響を及ぼす可能性があります。例えば、AIが過去1世紀の医療従事者を識別するための文献を学習した場合、AIは、意図せずして、女性は常に看護師で、男性は常に医師であるという、望ましくない性別バイアスに達する可能性があります。

より危険なシナリオは、有罪判決を受けた犯罪者を判決するために使用されるAIがバイアスにある場合です。AIの犯罪リスク評価アルゴリズムは、システムに入力されたデータのパターンを単に分析しています。このデータは、歴史的に特定の少数派が再犯する可能性が高かったことを示しています。ただし、これは警察による人種プロファイリングの影響を受ける可能性のある貧弱なデータセットのためである可能性があります。バイアスされたAIは、人間の政策を悪影響を及ぼします。したがって、AIはガイドラインとして使用されるべきであり、裁判官や陪審員として使用されるべきではありません。

自律型兵器に戻ります。もしAIが特定の民族グループに対してバイアスを持っている場合、AIはバイアスされたデータに基づいて特定の個人を標的にする可能性があります。また、特定の民族グループへの被害を最小限に抑えるように、被害の種類を選択する可能性もあります。例えば、テロリストを標的にする前に、テロリストがイスラム教徒ではなくキリスト教徒に囲まれているのを待つ可能性があります。

幸いなことに、多様なチームによって設計されたAIは、バイアスに陥りやすい可能性が低いことが証明されています。これは、企業が可能な限り多様でバランスの取れたチームを雇用する理由です。

人工一般知能の脅威

AGIがまだ達成されていないことを述べるべきです。AGIがいつ達成されるかは議論の余地があり、誰もが異なる答えを持っています。私は、発明家、未来学者、著者であるレイ・カーツワイルの見解に賛同しています。彼は、2029年までにAGIを達成すると考えています。

AGIは、世界で最も変革的な技術になります。AIが人間レベルの知能を達成した後、数週間以内に、超知能に到達します。超知能とは、人間の知能をはるかに超える知能です。

このレベルの知能を持つAGIは、人間の知識を吸収し、パターン認識を使用して健康上の問題の原因となるバイオマーカーを特定し、データサイエンスを使用してその状態を治療することができます。ナノロボットを作成して血流に侵入し、がん細胞やその他の攻撃ベクトルを標的にすることができます。AGIが達成できることは無限にあります。以前にも、AGIの利点について探究しました。

問題は、人間がAIを制御できなくなる可能性があることです。イーロン・マスクは、次のように述べています。 “人工知能では、悪魔を召喚しています。” この悪魔を制御できるかどうかが問題です。

AGIを達成することは、シミュレーション環境を離れて、実際の世界で相互作用するAIを開発するまで、不可能である可能性があります。自己認識は設計することはできません。代わりに、ロボットボディに多数の入力ストリームを備えたAIに、出現する意識が発生する可能性があります。これらの入力には、触覚刺激、音声認識、自然言語理解の強化、コンピュータビジョンの強化が含まれます。

高度なAIは、利他的な動機でプログラムされており、地球を救おうとします。ただし、AIは、データサイエンス、または決定木を使用して、不必要な誤った論理に到達する可能性があります。たとえば、人間の人口を制御するために、人間を不妊にするか、あるいは一部の人間を排除する必要があると判断する可能性があります。

人間を超える知能を持つAIを構築するには、慎重な考慮と検討が必要です。多くの悪夢のようなシナリオが探究されてきました。

ニック・ボストロム教授は、ペーパークリップ・マキシマイザー論証で、誤って設定されたAGIがペーパークリップを生産するように指示された場合、地球のすべてのリソースを使用してこれらのペーパークリップを生産することになる、と主張しています。少し遠い話のように思えるかもしれませんが、もっと実際的な観点から、AGIは、倫理観のない国家または企業によって制御される可能性があります。このエンティティは、AGIを利益を最大化するようにトレーニングする可能性があります。プログラミングが不十分で、憐憫の心がない場合、競合他社を破産に追い込んだり、サプライチェーンを破壊したり、株式市場をハッキングしたり、銀行口座を液化したり、政治的対立者を攻撃したりする可能性があります。

これは、人間がAIに人間のような感情、欲求、または欲求を与えることができないことを思い出す必要があります。人間には、快楽のために殺害する悪質な人間がいますが、AIがこのような行動に従事する可能性がある理由はありません。人間がAIの世界観を理解することは、考えられません。

代わりに、AIに常に人間に従うように教える必要があります。AIは、設定の変更を確認するために常に人間に依頼する必要があります。また、安全装置が必要です。ただし、AIがクラウドで自己複製し、自己認識を達成するまでに私たちが気づくのが遅すぎる可能性もあります。

これが、AIをオープンソース化し、これらの問題について合理的な議論を行うことが重要な理由です。

まとめ

AIには多くの課題がありますが、幸いなことに、AGIの将来の道を決定するためにまだ多くの時間があります。短期的には、多様なAIワークフォースの創出に焦点を当て、可能な限り多くの女性と男性、そして多様な民族グループを含める必要があります。

また、AIを研究している研究者を保護するために、内部告発者保護を創設し、国家または会社全体の監視の乱用を防ぐ法律や規制を制定する必要があります。人間は、AIの支援を使用して人間の状況を改善するための生涯に一度の機会を持っています。ただし、人間は、社会的枠組みを慎重に創設し、プラスの面を促進し、存在の脅威を含むマイナスの面を軽減する必要があります。