AIのリスクとロバストなAI規制の緊急性を強調するテクノロジー指導者

AIの成長と進歩は、過去数年で指数関数的に増加しています。Statistaによると、2024年までに、世界のAI市場は、2015年の126億ドルから約3000億ドルの収益を生み出すことが予想されています。ただし、テクノロジー指導者は、現在、AIのさまざまなリスクについて警告しています。

特に、最近のジェネレーティブAIモデル（例：ChatGPT）の波は、ヘルスケア、教育、金融などのデータ感受性の高い分野で新しい機能を導入しました。これらのAIベースの開発は、悪意のあるエージェントが露呈できる多くのAIの欠点があるため、脆弱です。

AI専門家が最近の開発について何を言っているか、またAIの潜在的なリスクについて論じてみましょう。さらに、どのようにしてこれらのリスクを管理できるかについても触れてみます。

テクノロジー指導者とAIのリスクに関する懸念

ジェフリーヒントン

ジェフリーヒントン – 有名なAIテクノロジー指導者（この分野の「ゴッドファーザー」）で、最近Googleを退職したヒントンは、AIの急速な開発とその潜在的な危険性について懸念を表明しています。ヒントンは、AIチャットボットが人間の知能を超えると「かなり怖ろしい」ものになる可能性があると考えています。

ヒントンは次のように述べています。

「現在、GPT-4は一般的な知識の量で人間を上回り、長い間上回っています。推論能力ではあまり良くありませんが、すでに簡単な推論を行っています。進歩の速度を考えると、ものごとがかなり速く改善されるでしょう。したがって、それについて心配する必要があります。」

さらに、ヒントンは「悪い行為者」がAIを「悪いこと」に使用できることを信じています。例えば、ロボットにサブ目標を与えることができます。懸念があるにもかかわらず、ヒントンはAIが短期的な利益をもたらす可能性があると考えていますが、AIの安全性と制御にも多く投資する必要があります。

イーロンマスク

イーロンマスクのAIへの関与は、2010年にDeepMindへの初期投資から始まり、OpenAIの共同創設者となり、テスラの自動運転車にAIを組み込むことまで至りました。

マスクはAIの熱心な支持者ですが、頻繁にAIのリスクについて懸念を表明しています。マスクは、強力なAIシステムは核兵器よりも文明に対して危険であると述べています。2023年4月のFox Newsのインタビューでは、マスクは次のように述べています。

「AIは、設計の不手際や生産メンテナンスの不手際、または悪い自動車生産よりも、文明に対する危険性が高いです。小さな確率と見なされるかもしれませんが、非自明であり、文明の破壊の可能性があります。」

さらに、マスクはAIの安全性を確保するために政府による規制を支持しています。ただし、「それほど楽しくありません」と述べています。

巨大なAI実験を一時停止せよ：1000人以上のAI専門家が支持する公開書簡

Future of Life Instituteは、2023年3月22日に公開書簡を発表しました。この書簡では、GPT-4を超えるAIシステムの開発を6ヶ月間一時停止するよう呼びかけています。著者らは、AIシステムが開発されるペースが深刻な社会経済的課題をもたらすことを懸念しています。

さらに、この書簡では、AI開発者が政策立案者と協力してAIガバナンスシステムを文書化する必要があると述べられています。2023年6月の時点で、この書簡には31,000人以上のAI開発者、専門家、テクノロジー指導者が署名しています。著名な署名者には、イーロンマスク、スティーブウォズニアック（Appleの共同創設者）、エマドモスタク（Stability AIのCEO）、ヨシュアベンギオ（チューリング賞受賞者）などがいます。

AI開発の一時停止に対する反論

2人の著名なAIリーダー、アンドリュンとヤンルカンは、先進的なAIシステムの開発を6ヶ月間一時停止することに反対しています。

ンは、AIにはリスクがある（例：偏り、権力の集中など）が、教育、ヘルスケア、コーチングなどの分野でAIが創造する価値は非常に大きいと述べています。

ルカンは、研究と開発を停止するべきではないと述べています。ただし、エンドユーザーに届くAI製品は規制されるべきです。

AIの潜在的な危険性と即時的なリスクは何か?

1. 職業の喪失

AI専門家は、知能の高いAIシステムが認知的および創造的なタスクを代替できる可能性があると考えています。投資銀行のゴールドマンサックスは、約3億人の仕事がジェネレーティブAIによって自動化される可能性があると推定しています。

したがって、AIの開発が深刻な経済的衰退を引き起こさないように規制する必要があります。従業員がこの課題に対処するためにスキルを身に付け、再スキルするための教育プログラムが必要です。

2. 偏ったAIシステム

偏りは、人間の性別、人種、または色についての偏見が、AIシステムをトレーニングするために使用されるデータに意図せずに浸透し、結果としてAIシステムが偏ったものになる可能性があります。

例えば、採用の文脈では、偏ったAIシステムは特定の民族的背景を持つ個人の履歴書を却下し、職場での差別を生み出す可能性があります。法執行では、偏った予測ポリシングは特定の地域または人口統計グループを不当に標的にする可能性があります。

したがって、AIのリスク、特に偏りを解決するための包括的なデータ戦略が必要です。AIシステムは、公平性を維持するために頻繁に評価および監査される必要があります。

3. 安全性の重要なAIアプリケーション

自動運転車、医療の診断および治療、航空システム、原子力発電所の制御などは、すべて安全性の重要なAIアプリケーションの例です。これらのAIシステムは、わずかなエラーが人間の生命や環境に重大な影響を及ぼす可能性があるため、慎重に開発する必要があります。

例えば、AIソフトウェアの「Maneuvering Characteristics Augmentation System (MCAS)」の故障は、2018年10月と2019年3月の2つのボーイング737 MAXの墜落の一因と見なされています。悲劇的にも、2つの墜落で346人が死亡しました。

AIシステムのリスクをどうやって克服できるか – 責任あるAI開発と規制遵守

責任あるAI (RAI)とは、公平性、説明責任、透明性、セキュリティを確保し、プライバシーを保護し、法的規制および社会規範に従ったAIシステムを開発および展開することを意味します。RAIの実装は、AIシステムの広範囲にわたる急速な開発により複雑になる可能性があります。

しかし、大手テクノロジー企業は、RAIフレームワークを開発しています。例えば：

1. マイクロソフトの責任あるAI
2. グーグルのAI原則
3. IBMの信頼できるAI

世界中のAIラボは、これらの原則からインスピレーションを得たり、独自の責任あるAIフレームワークを開発したりして、信頼できるAIシステムを作成できます。

AI規制遵守

AIシステムにはデータが不可欠なコンポーネントであるため、AIベースの組織およびラボは、データのセキュリティ、プライバシー、安全性を確保するために、以下の規制に遵守する必要があります。

1. GDPR (一般データ保護規則) – 欧州連合のデータ保護フレームワーク
2. CCPA (カリフォルニア州消費者プライバシー法) – カリフォルニア州のプライバシー権と消費者保護に関する州法
3. HIPAA (健康保険携行性および責任法) – 患者の医療データを保護する米国立法
4. EU AI法および信頼できるAIのための倫理ガイドライン – 欧州委員会のAI規制

各国は、市民を保護するためにさまざまな地域および地方法令を制定しています。データに関する規制遵守を確保できない組織は、重大な罰金に直面する可能性があります。例えば、GDPRは、重大な違反（例：違法なデータ処理、データ主体の権利の侵害、国際的なエンティティへのデータ転送の保護の欠如）に対して、2000万ユーロまたは年間収益の4%の罰金を規定しています。

AI開発と規制 – 現在と未来

毎月が過ぎるごとに、AIの進歩は前例のない水準に達しています。しかし、AIを伴う規制とガバナンスフレームワークは、後続しています。よりロバストで具体的なものになる必要があります。

テクノロジー指導者やAI開発者は、AIが十分に規制されない場合のリスクについて警鐘を鳴らしています。AIの研究開発は、多くの分野でさらに価値をもたらす可能性がありますが、慎重な規制が今必要であることは明らかです。

AI関連のコンテンツについては、unite.aiを訪問してください。