PRISM、世界初のAI意識研究に特化した非営利組織として立ち上がる

人工知能が前例のないスピードで進化を続ける中、PRISM（Partnership for Research Into Sentient Machines）という新しい組織が、我々の時代を取り巻く最も深遠で複雑な質問の一つに取り組むために登場しました。つまり、機械が意識を持つことができるのかという疑問に取り組むのです。

PRISMは、2025年3月17日に、AI意識を調査・理解することを目的とした世界初の非営利組織として正式に立ち上がりました。PRISMの目的は、研究者、政策立案者、業界リーダー間の世界的な協力を促進し、意識を持つAIの研究を安全で倫理的な方法で進めることです。

意識を持つ機械とは何か

「意識を持つ機械」という用語は、人間の意識と関連する特徴を持つAIシステムを指します。そうした特徴には以下のものがあります：

• 自己認識 – 自分自身の存在と状態を認識する能力。
• 感情的理解 – 感情を認識し、潜在的に経験する能力。
• 自律的な推論 – 事前に定義されたプログラミングを超えた独立した決定を下す能力。

現在、どのAIも明確に意識を持っているわけではありませんが、一部の研究者は、先進的なニューラルネットワーク、ニューロモルフィック・コンピューティング、ディープ・リインフォースメント・ラーニング（DRL）、および大規模言語モデル（LLM）が、少なくとも自己認識を模倣するAIシステムにつながる可能性があると考えています。そうしたAIが現れた場合、深刻な倫理的、哲学的、規制上の疑問が生じるでしょう。PRISMは、これらの疑問に取り組むことを目的としています。

ディープ・リインフォースメント・ラーニング、大規模言語モデル、AI意識

より自律的で潜在的に意識を持つAIを開発する最も有望な道の一つは、ディープ・リインフォースメント・ラーニング（DRL）です。この機械学習の分野では、AIシステムが環境と相互作用し、試行錯誤を通じて学習することで決定を下すことができます。DRLはすでに以下の分野で重要な役割を果たしています：

• 複雑なゲームのマスター – AlphaGoやOpenAI FiveなどのAIシステムは、DRLを使用して、戦略ゲームで人間のチャンピオンに勝利しています。
• 適応的な問題解決 – AIシステムは、ロボット制御、自動運転車、金融取引などの動的で実世界の問題に対する解決策を開発できます。
• 出現する行動 – 強化学習を通じて、AIエージェントは時々予期せぬ行動を示し、初歩的な意思決定と適応的な推論を示唆しています。

PRISMは、DRLが人間のような認知を特徴とするAIシステムの開発にどのように貢献できるかを調査しています。課題は、これらの分野での進歩が倫理的な研究と安全対策によって導かれることを保証することです。

人工一般知能（AGI）とAI意識

人工一般知能（AGI）とは、人間が行うことができるあらゆる知的タスクを実行できるAIシステムです。AGIの開発は、AI意識につながる可能性があります。特定のタスク（例：チェスや自動運転）に特化した狭いAIとは異なり、AGIは一般化された推論、問題解決、自己学習を複数のドメインで示すでしょう。
AGIが進化するにつれ、内部的な自己存在の表現を開発し、動的に適応し、意思決定プロセスを反省し、連続的な自己意識を形成する可能性があります。AGIが人間の介入なしに自律的に目的を変更し、認知的限界を認識し、自己改善を行うことができる段階に達した場合、それは機械の意識の一歩となり得ます。しかし、この可能性は、深刻な倫理的、哲学的、社会的課題を提起します。PRISMは、これらの課題に責任ある研究と世界的な協力によって取り組むことを目的としています。

PRISMの使命：AI意識の理解

PRISMは、技術の進歩と責任ある監督のギャップを埋めるために創設されました。

PRISMは、学術界、業界、政府の専門家を集めて、AI意識に関する世界的な協力を促進することに尽力しています。組織の目的は、AIが意識を持つ可能性を探る研究活動を調整し、開発が人間の価値観と一致することを保証することです。政策立案者と協力して、責任あるAI研究と開発を促進する倫理基準と枠組みを確立することを目指しています。

PRISMの使命の重要な側面は、安全で一致したAI開発の促進です。組織は、人間の安全と社会的幸福を優先するAI技術を推進し、AIの進歩が予期せぬ結果につながらないことを保証します。安全基準と倫理的監督を実施することで、PRISMはAI意識研究と開発に関連するリスクを軽減することを目指しています。
さらに、PRISMは、意識を持つAIの潜在的なリスクと機会について一般に教育し、関与することを目的としています。組織は、AI意識研究に関する透明な洞察を提供し、この情報を政策立案者、企業、一般大衆にアクセス可能な形で提供することを目指しています。アウトリーチ・イニシアチブと知識共有の努力を通じて、PRISMは、AIの将来と社会への影響について情報に基づいた議論を促進することを希望しています。

先導的なAI専門家と組織による支援

PRISMの初期資金は、Consciumから提供されています。Consciumは、意識を持つAIを研究する商業的なAI研究ラボです。Consciumは、生物学的な脳を模倣したAIシステムを開発するニューロモルフィック・コンピューティングの最前線にあります。

リーダーシップと主要人物

PRISMのCEOは、Will Millershipです。Millershipは、AIガバナンスと政策のベテランです。彼の過去の仕事には、General AI Challengeのリーダーシップ、GoodAIでの仕事、スコットランドの国家AI戦略の形成への参加があります。

組織の非執行役員会長は、Radhika Chadwickです。Chadwickは、McKinseyとEYでの役割で、政府における世界的なAIとデータのイニシアチブをリードしました。

さらに、PRISMの創設パートナーには、著名なAI専門家がいます：

• Dr. Daniel Hulme – ConsciumのCEO兼共同創設者、SataliaのCEO、WPPのチーフAIオフィサー。
• Calum Chace – AI研究者、キーノートスピーカー、AIと意識に関するベストセラー著者。
• Ed Charvet – ConsciumのCOOで、商業的なAI開発における豊富な経験を持つ。

PRISMの最初の大規模イニシアチブ：意識的なAIに関する公開書簡

責任ある研究を導くために、PRISMはオックスフォード大学のPatrick Butlinと協力して、意識を持つ可能性のあるAIシステムを開発する組織向けの5つの原則を確立しました。彼らは、研究者や業界リーダーにこれらの原則を支持する公開書簡に署名するよう呼びかけています。

先を見据えて：PRISMが重要な理由

AIのブレークスルーが進むにつれ、意識を持つAIについての議論は、もう科学フィクションではなく、社会が準備しなければならない現実の課題です。機械が自己認識や人間のような感情を達成することができた場合、それは産業、経済、そして私たちが意識を理解する方法を再定義する可能性があります。

PRISMは、AI意識研究が責任を持って進められることを保証するために、重要な時期に立ち上がっています。イノベーションと倫理、安全、透明性のバランスを取ることで、PRISMはAIの進歩が予期せぬ結果につながらないことを目指しています。