OpenAI、安全委員会を設立し、論争の最中に次世代AIモデルをトレーニング

OpenAIは、人工知能技術の進歩において重要な成果を上げてきました。その最新の成果は、GPT-4oシステムで、人気のチャットボットであるChatGPTを動かしています。今日、OpenAIは新しい安全委員会、OpenAI安全委員会の設立を発表し、新しいAIモデルのトレーニングを開始したことを明らかにしました。

OpenAIの安全委員会には誰がいるのか？

新しく設立されたOpenAI安全委員会は、会社のプロジェクトや運用に関する重要な安全性とセキュリティに関する決定について、指導と監視を行うことを目的としています。安全委員会の主な目的は、OpenAIのAI開発慣行が安全性を優先し、倫理的原則と一致することを保証することです。安全委員会は、OpenAIの幹部、取締役、技術および政策の専門家など、多様な個人が参加しています。

OpenAI安全委員会の著名なメンバーには以下の人物がいます：

• サム・アルトマン、OpenAIのCEO
• ブレット・テイラー、OpenAIの会長
• アダム・ダンジェロ、QuoraのCEOであり、OpenAIの取締役
• ニコール・セリグマン、元ソニーの法務担当取締役であり、OpenAIの取締役

安全委員会は初期段階で、OpenAIの既存の安全プロセスとセーフガードを評価し、強化することに焦点を当てます。OpenAI安全委員会は、取締役会に対して、会社のAI開発慣行と安全システムを強化する方法に関する勧告を出すために、90日間のタイムラインを設定しました。勧告が採用されると、OpenAIは安全とセキュリティの考慮に従って、それらを公開する予定です。

新しいAIモデルのトレーニング

OpenAI安全委員会の設立と並行して、OpenAIは新しいフロンティアモデルのトレーニングを開始したことを発表しました。この最新のAIモデルは、現在ChatGPTを支えるGPT-4システムの能力を超えることが予想されています。新しいAIモデルの詳細はまだ少ないですが、OpenAIは、このモデルが業界で最も優れた能力と安全性を実現することを目指していることを明らかにしています。

この新しいAIモデルの開発は、人工知能分野の革新の速さと、人工一般知能（AGI）の可能性を強調しています。AIシステムがより高度で強力になるにつれて、安全性を優先し、責任を持ってこれらの技術を開発することが重要です。

OpenAIの最近の論争と離脱

OpenAIの安全性への再焦点は、内部の混乱と公的な検証の期間にあります。最近の週で、会社は内部からの批判に直面しています。研究者であるJan Leikeは辞任し、安全性が「輝かしい製品」の開発に後ろ向きになったと懸念を表明しました。Leikeの辞任の後、OpenAIの共同創設者兼チーフサイエンティストであるIlya Sutskeverも離脱しました。

LeikeとSutskeverの離脱は、会社の優先順位とAI安全性へのアプローチに関する疑問を引き起こしています。2人の研究者は、OpenAIの「超整列」チームを共同で率いており、長期的なAIリスクに対処していました。彼らの辞任に続いて、超整列チームは解散され、安全性への取り組みに関する懸念がさらに高まりました。

内部の混乱に加えて、OpenAIはChatGPTチャットボットにおける声の擬似問題で批判されています。何人かのユーザーは、チャットボットの声が女優のスカーレット・ヨハンソンに似ていると主張しています。OpenAIは故意にヨハンソンを擬似したことを否定していますが、この事件はAI生成コンテンツの倫理的影響と、悪用の可能性についてのより広範な議論を引き起こしています。

AI倫理に関するより広範な議論

人工知能分野が急速に進化を続ける中、OpenAIのような企業は、研究者、政策立案者、一般市民との継続的な対話と協力を行い、AI技術が責任を持って開発され、強力な安全対策が講じられることを確実にする必要があります。OpenAI安全委員会の勧告とOpenAIの透明性への取り組みは、AIガバナンスに関するより広範な議論に貢献し、この変革的な技術の未来を形作るのに役立つでしょう。しかし、どのような結果になるかは、時間が示してくれるでしょう。