テクノロジー業界のリーダーが警鐘を鳴らすAIのリスクとAI規制の緊急性

過去数年間で、AIの成長と進歩は指数関数的に増加している。Statistaによると、2024年までに、世界のAI市場は2015年の126億ドルから約3000億ドルの収益を生み出すことが予想される。ただし、テクノロジー業界のリーダーは現在、AIのさまざまなリスクについて警告している。

特に、最近のジェネレーティブAIモデルの波、たとえばChatGPTは、ヘルスケア、教育、金融などのデータ敏感な分野で新しい能力を紹介した。这些AIを支える開発は、悪意のあるエージェントが露呈できる多くのAIの欠点があるため、脆弱である。

AI専門家が最近の開発について何を言っているか、またAIの潜在的なリスクについて議論しよう。さらに、これらのリスクをどのように管理できるかについて簡単に触れることにする。

テクノロジー業界のリーダーとAIのリスクに関する懸念

ジェフリー・ヒントン

ジェフリー・ヒントン – この分野の有名なAIテクノロジー業界のリーダー（そして神父）で、最近Googleを退職したヒントンは、AIの急速な開発とその潜在的な危険性について懸念を表明した。ヒントンは、AIチャットボットが人間の知能を超えると「かなり怖い」ものになる可能性があると考えている。

ヒントンは次のように述べている。

「現在、GPT-4のようなものが人間の一般的な知識をはるかに上回っていることが見られる。また、単純な推論もすでにできる。進歩の速度を考えると、ものごとがかなり速く改善されるだろう。したがって、心配する必要がある。」

さらに、ヒントンは「悪い行為者」が「悪いこと」、たとえばロボットに副目標を持たせるためにAIを使用できることを信じている。懸念にもかかわらず、ヒントンはAIが短期的な利益をもたらす可能性があると考えているが、AIの安全性と管理に多く投資する必要があると考えている。

イーロン・マスク

イーロン・マスクのAIへの関与は、2010年にDeepMindへの初期投資から始まり、OpenAIの共同設立、テスラの自律走行車へのAIの組み込みまで続いている。

マスクはAIの熱心な支持者であるが、頻繁にAIのリスクについて懸念を表明している。マスクは、強力なAIシステムは核兵器よりも文明に対してより危険であると述べている。2023年4月のFox Newsでのインタビューで、マスクは次のように述べた。

「AIは、たとえば航空機の設計や生産の維持、自動車の生産などの管理が不十分であることよりも、文明に対する危険性が高い。確率は小さく見られるかもしれないが、非自明であり、文明の破壊の可能性がある。」

さらに、マスクはAIの安全性を確保するために政府によるAI規制を支持しているが、「それほど楽しくない」と述べている。

巨大なAI実験を一時停止せよ：数千人のAI専門家が支持する公開書簡

Future of Life Instituteは、2023年3月22日に公開書簡を発表した。この書簡では、GPT-4よりも進歩したAIシステムの開発を6か月間一時停止することを呼びかけている。著者たちは、AIシステムが開発されるペースについて深刻な社会経済的課題を提起している。

さらに、この書簡では、AI開発者が政策立案者と協力してAIガバナンスシステムを文書化する必要があると述べられている。2023年6月の時点で、この書簡にはイーロン・マスク、スティーブ・ウォズニアック（Appleの共同設立者）、エマド・モスタク（Stability AIのCEO）、ヨシュア・ベンジオ（チューリング賞受賞者）を含む3万人以上のAI開発者、専門家、テクノロジー業界のリーダーが署名している。

AI開発の一時停止に対する反論

2人の著名なAIリーダー、アンドリュー・エンとヤン・ルカンは、進歩したAIシステムの開発を6か月間一時停止することに反対し、この一時停止は悪い考えであると考えた。

エンは、AIには偏りや権力の集中などのリスクがあるが、教育、ヘルスケア、コーチングなどの分野でAIが創造する価値は非常に大きいと述べた。

ルカンは、研究と開発を停止すべきではなく、エンドユーザーに到達するAI製品は規制されるべきだと述べた。

AIの潜在的な危険性と即時のリスクは何か?

1. 職業の喪失

AI専門家は、知能の高いAIシステムが認知と創造的なタスクを代替できる可能性があると信じている。投資銀行ゴールドマン・サックスは、ジェネレーティブAIによって約3億人の雇用が自動化される可能性があると推定している。

したがって、AIの開発について規制する必要があるので、深刻な経済的衰退を引き起こさないようにする必要がある。従業員がこの課題に対処するために、スキルアップと再スキル化のための教育プログラムが必要である。

2. 偏ったAIシステム

偏りは、人間の性別、人種、または色について存在し、AIシステムをトレーニングするために使用されるデータに意図せず伝達される可能性がある。結果として、AIシステムは偏ったものになる。

たとえば、採用の文脈では、偏ったAIシステムは特定の民族背景を持つ個人の履歴書を却下し、職場で差別を生み出す可能性がある。法執行機関では、偏った予測ポリシングは特定の地域や人口統計グループを不当に標的にする可能性がある。

したがって、AIのリスク、特に偏りに対処するための包括的なデータ戦略が必要である。AIシステムは公平性を維持するために頻繁に評価および監査される必要がある。

3. 安全性の重要なAIアプリケーション

自律走行車、医療の診断および治療、航空システム、原子力発電所の制御などは、すべて安全性の重要なAIアプリケーションの例である。これらのAIシステムは慎重に開発される必要がある，因为、わずかなエラーでも人間の生命や環境に重大な影響を及ぼす可能性がある。

たとえば、AIソフトウェアのManeuvering Characteristics Augmentation System (MCAS)の不正な動作は、2018年10月と2019年3月の2つのボーイング737 MAXの墜落の一因と見なされている。悲劇的にも、2つの墜落で346人が死亡した。

AIシステムのリスクをどうやって克服できるか – 責任あるAI開発と規制コンプライアンス

責任あるAI (RAI)とは、公平、説明可能、透明、安全で、プライバシーを確保し、法的規制および社会規範に従ったAIシステムを開発および展開することを意味する。RAIの実施は、AIシステムの幅広い急速な開発により複雑になる可能性がある。

しかし、大手テクノロジー企業はRAIフレームワークを開発している。

1. Microsoftの責任あるAI
2. GoogleのAI原則
3. IBMの信頼できるAI

世界中のAIラボは、これらの原則からインスピレーションを得たり、独自の責任あるAIフレームワークを開発したりして、信頼できるAIシステムを作成することができる。

AI規制コンプライアンス

AIシステムの重要なコンポーネントであるデータを保護するために、AIベースの組織とラボは、データのセキュリティ、プライバシー、安全性を確保するために、以下の規制に準拠する必要がある。

1. GDPR (一般データ保護規制) – EUのデータ保護フレームワーク。
2. CCPA (カリフォルニア州消費者プライバシー法) – カリフォルニア州のプライバシー権と消費者保護に関する州法。
3. HIPAA (健康保険携行性および責任法) – 米国の法律で、患者の医療データを保護する。
4. EU AI法、および信頼できるAIのための倫理ガイドライン – 欧州委員会のAI規制。

各国は、市民を保護するためにさまざまな地域や地方法律を制定している。データに関する規制コンプライアンスを確保できない組織は、重大な罰金に直面する可能性がある。たとえば、GDPRは、重大な違反、たとえば不法なデータ処理、データ主体の権利の侵害、または国際的なエンティティへのデータ転送の保護されていない場合、2000万ユーロまたは年間収益の4%の罰金を規定している。

AI開発と規制 – 現在と未来

毎月が経つごとに、AIの進歩は前例のない水準に達している。しかし、AI規制とガバナンスのフレームワークは後続している。より堅固で具体的なものになる必要がある。

テクノロジー業界のリーダーとAI開発者は、AIが十分に規制されていない場合のリスクについて警鐘を鳴らしている。AIの研究と開発は、さまざまな分野で価値を生み出す可能性があるが、慎重な規制が今必要であることは明らかである。

Unite.AIについての詳細は、unite.aiを訪問してください。