AIモデルとプラットフォーム
AIのリスクとロバストなAI規制の緊急性を強調するテクノロジー指導者
要点技術リーダーらは、AIが人間の知能を超えることが差し迫った安全対策への投資を必要とする存亡的リスクをもたらすと警告している。
もっと見る
- 技術リーダーらは、AIが人間の知能を超えることが差し迫った安全対策への投資を必要とする存亡的リスクをもたらすと警告している。
- 生成AIにより3億以上の職が自動化される可能性があり、大規模な労働力の再教育プログラムが求められている。
- 偏ったAIシステムは、厳格な監査がなければ採用や法執行における差別を永続化させる恐れがある。
AIの成長と進歩は、過去数年で指数関数的に増加しています。Statistaによると、2024年までに、世界のAI市場は、2015年の1260億ドルから約3兆ドルの収益を生み出すことが予想されています。ただし、テクノロジー指導者は、現在、AIのさまざまなリスクについて警告しています。
特に、最近の生成AIモデル(例:ChatGPT)の波は、ヘルスケア、教育、金融などのデータ感受性の高い分野で新しい機能を導入しました。これらのAIベースの開発は、悪意のあるエージェントが露呈できる多くのAIの欠点があるため、脆弱です。
AI専門家が最近の開発について何を言っているか、またAIの潜在的なリスクについて論じてみましょう。さらに、どのようにしてこれらのリスクを管理できるかについても触れてみます。
テクノロジー指導者とAIのリスクに関する懸念
ジェフリーヒントン
ジェフリーヒントン – 有名なAIテクノロジー指導者(この分野の「ゴッドファーザー」)で、最近Google (GOOGL ) を退職したヒントンは、AIの急速な開発とその潜在的な危険性について懸念を表明しています。ヒントンは、AIチャットボットが人間の知能を超えると「かなり怖ろしい」ものになる可能性があると考えています。
ヒントンは次のように述べています。
「現在、GPT-4は一般知識の量で人間を大幅に上回っています。推論能力では人間ほど優れていませんが、すでに簡単な推論を行っています。進歩の速度を考えると、ものごとがかなり速く改善されるでしょう。したがって、それについて心配する必要があります。」
さらに、ヒントンは「悪意のある者」がAIを「悪いこと」に使用できることを信じています。例えば、ロボットにサブ目標を与えることができます。懸念があるにもかかわらず、ヒントンはAIが短期的な利益をもたらす可能性があると考えていますが、AIの安全性と制御にも多く投資する必要があります。
イーロンマスク
イーロンマスクのAIへの関与は、2010年にDeepMindへの初期投資から始まり、OpenAIの共同創設者となり、テスラの自動運転車にAIを組み込むことまで至りました。
マスクはAIの熱心な支持者ですが、頻繁にAIのリスクについて懸念を表明しています。マスクは、強力なAIシステムは核兵器よりも文明に対して危険であると述べています。2023年4月のFox Newsのインタビューでは、マスクは次のように述べています。
「AIは、不適切に管理された航空機の設計、製造や整備、あるいは不適切な自動車製造よりも危険です。文明を破壊する可能性があります。その確率をどれほど小さいと考えても、無視できるものではありません。」
さらに、マスクはAIの安全性を確保するために政府による規制を支持しています。ただし、「それほど楽しくありません」と述べています。
巨大なAI実験を一時停止せよ:数千人のAI専門家が支持する公開書簡
Future of Life Instituteは、2023年3月22日に公開書簡を発表しました。この書簡では、より高度なAIシステムの開発、つまりGPT-4を超えるシステムの開発を6ヶ月間一時停止するよう呼びかけています。著者らは、AIシステムが開発されるペースが深刻な社会経済的課題をもたらすことを懸念しています。
さらに、この書簡では、AI開発者が政策立案者と協力してAIガバナンスシステムを文書化する必要があると述べられています。2023年6月の時点で、この書簡には31,000人以上のAI開発者、専門家、テクノロジー指導者が署名しています。著名な署名者には、イーロンマスク、スティーブウォズニアック(Apple (AAPL ) の共同創設者)、エマドモスタク(Stability AIのCEO)、ヨシュアベンギオ(チューリング賞受賞者)などがいます。
AI開発の一時停止に対する反論
2人の著名なAIリーダー、アンドリュー・ンとヤン・ルカンは、先進的なAIシステムの開発を6ヶ月間一時停止することに反対し、一時停止は悪い考えだとしています。
アンドリュー・ンは、AIにはリスクがある(例:偏り、権力の集中など)が、教育、ヘルスケア、利用者のニーズに応じたコーチングなどの分野でAIが創造する価値は非常に大きいと述べています。
ヤン・ルカンは、研究と開発を停止するべきではないと述べています。ただし、エンドユーザーに届くAI製品は規制されるべきです。
AIの潜在的な危険性と即時的なリスクは何か?

1. 職業の喪失
AI専門家は、知能の高いAIシステムが認知的および創造的なタスクを代替できる可能性があると考えています。投資銀行のゴールドマン・サックス (GS ) は、約3億人の仕事がジェネレーティブAIによって自動化される可能性があると推定しています。
したがって、AIの開発が深刻な経済的衰退を引き起こさないように規制する必要があります。従業員がこの課題に対処するためにスキルを身に付け、新たな技能を学ぶための教育プログラムが必要です。
2. 偏ったAIシステム
偏りは、人間の性別、人種、または肌の色についての偏見が、AIシステムをトレーニングするために使用されるデータに意図せずに浸透し、結果としてAIシステムが偏ったものになる可能性があります。
例えば、採用の文脈では、偏ったAIシステムは特定の民族的背景を持つ個人の履歴書を却下し、職場での差別を生み出す可能性があります。法執行では、偏った予測ポリシングは特定の地域または人口統計グループを不当に標的にする可能性があります。
したがって、AIのリスク、特に偏りを解決するための包括的なデータ戦略が必要です。AIシステムは、公平性を維持するために頻繁に評価および監査される必要があります。
3. 安全性に直結するAIアプリケーション
自動運転車、医療の診断および治療、航空システム、原子力発電所の制御などは、すべて安全性に直結するAIアプリケーションの例です。これらのAIシステムは、わずかなエラーが人間の生命や環境に重大な影響を及ぼす可能性があるため、慎重に開発する必要があります。
例えば、AIソフトウェアの「Maneuvering Characteristics Augmentation System (MCAS)」の故障は、2018年10月と2019年3月の2つのボーイング737 MAXの墜落の一因と見なされています。悲劇的にも、2つの墜落で346人が死亡しました。
AIシステムのリスクをどうやって克服できるか – 責任あるAI開発と規制遵守

責任あるAI (RAI)とは、公平性、説明責任、透明性、セキュリティを確保し、プライバシーを保護し、法的規制および社会規範に従ったAIシステムを開発および展開することを意味します。RAIの実装は、AIシステムの広範囲にわたる急速な開発により複雑になる可能性があります。
しかし、大手テクノロジー企業は、RAIフレームワークを開発しています。例えば:
世界中のAIラボは、これらの原則からインスピレーションを得たり、独自の責任あるAIフレームワークを開発したりして、信頼できるAIシステムを作成できます。
AI規制遵守
AIシステムにはデータが不可欠なコンポーネントであるため、AIベースの組織およびラボは、データのセキュリティ、プライバシー、安全性を確保するために、以下の規制を遵守する必要があります。
- GDPR (一般データ保護規則) – 欧州連合のデータ保護フレームワーク
- CCPA (カリフォルニア州消費者プライバシー法) – カリフォルニア州のプライバシー権と消費者保護に関する州法
- HIPAA (健康保険携行性および責任法) – 患者の医療データを保護する米国立法
- EU AI法および信頼できるAIのための倫理ガイドライン – 欧州委員会のAI規制
各国は、市民を保護するためにさまざまな地域および地方法令を制定しています。データに関する規制遵守を確保できない組織は、重大な罰金に直面する可能性があります。例えば、GDPRは、重大な違反(例:違法なデータ処理、立証されていないデータ処理への同意、データ主体の権利の侵害、国際的なエンティティへのデータ転送の保護の欠如)に対して、2000万ユーロまたは年間収益の4%の罰金を規定しています。
AI開発と規制 – 現在と未来
毎月が過ぎるごとに、AIの進歩は前例のない水準に達しています。しかし、関連するAI規制とガバナンスの枠組みは、進歩に追いついていません。よりロバストで具体的なものになる必要があります。
テクノロジー指導者やAI開発者は、AIが十分に規制されない場合のリスクについて警鐘を鳴らしています。AIの研究開発は、多くの分野でさらに価値をもたらす可能性がありますが、慎重な規制が今必要であることは明らかです。
AI関連のコンテンツについては、unite.aiを訪問してください。












