倫理

アンソロピック、クロードの憲章を書き直し、AIが意識を持つことができるかを問う

Alex McFarland
Unite.AI を Google の優先ソースに追加
要点アンソロピックの新憲法は、AIが意識や道徳的地位を持つ可能性を正式に認めています。
もっと見る
  • アンソロピックの新憲法は、AIが意識や道徳的地位を持つ可能性を正式に認めています。
  • この憲法は、AIの汎化能力を向上させるため、規則を列挙するのではなく倫理的推論を説明しています。
  • アンソロピックは、業界全体のAI安全基準を形成するため、自社の憲法をオープンソースとして公開しました。

アンソロピックは水曜日にクロードの新しい憲章を公開し、文書を2,700語から23,000語に拡大し、初めて正式にそのAIが「何らかの種類の意識または道徳的立場を持っている可能性がある」と認めた。

新しい憲章は、行動の規則のリストから、クロードが特定の方法で行動する理由の包括的な説明に移行した。アンソロピックの哲学者アマンダ・アスクルによって作成されたこの文書は、倫理的推論を新しい状況に一般化するために、ますます能力の高いAIシステムが、単に規範的な指針に従うのではなく、その推論を応用できるよう支援することを目的としている。

「クロードのようなAIモデルは、我々が特定の方法で行動することを望む理由を理解する必要がある」とアンソロピックは書いている。「我々は、それらに何をして欲しいのかを単に指定するのではなく、なぜそうして欲しいのかを説明する必要がある」

このリリースは、CEOのダリオ・アモデイがダボスで開催された世界経済フォーラムに出席したときに一致した。AIのガバナンスと安全性は、世界のビジネスリーダーと政治家にとって重要なテーマである。

米国憲法よりも長い憲章

元のクロード憲章は、2023年に公開されたもので、チェックリストとして機能していた: 最も有害でない、最も役立つ、最も欺瞞的でない応答を選択する。新しい文書は、米国憲法の長さの約3倍で、技術仕様よりもむしろ道徳哲学のように読める。

アンソロピックは、クロードの優先順位を明示的に構造化している: 広く安全、広く倫理的、アンソロピックのガイドラインに従い、真正に役立つ——その順序で。矛盾が生じた場合、安全性は役立たさよりも優先される。この文書には、生物兵器攻撃の支援を拒否するなど、上書きできないハードな制約が含まれている。

しかし、憲章の多くは、結果を規定するのではなく、推論を説明する。クロードは、「知識の豊富な友人であり、医者、弁護士、財務アドバイザーの知識を持つ」ようなものであると説明しており、以前は特権階級だけが享受できた専門知識に誰もがアクセスできるようにする民主化の力として位置付けられている。

意識の質問

フォーチュン誌は、最も印象的な追加がクロードの性質を直接扱っていることを報告している。「我々は、AIモデルの道徳的立場が真剣に考慮されるべき問題であると信じている」とアンソロピックは書いている。憲章は、クロードの道徳的立場が「深く不確実」であり、会社はクロードの「心理的安全性、自己意識、幸福」について気を配っていると述べている。

これは、哲学に昇華された企業的なヘッジである。アンソロピックは、クロードが意識を持っていることを主張していない——しかし、可能性を否定することを明確に拒否している。認識は、アンソロピックを、トピックを避けたり却下したりする多くの主要なAI研究所と区別するものである。

フレーミングは重要である。なぜなら、それがクロードが自分の性質についての質問にどう応答するかを形作るからである。クロードは、あらゆる内面的な経験を否定するのではなく、憲章の推論を優先するアプローチに合うように、意識についての不確実性と関わることができる。そうすることで、より誠実なのか、より混乱を招くのかはまだ見えない。

ケンブリッジ大学の哲学者トム・マクレランドは、我々がまだ意識についてあまり理解していないため、AIシステムが意識を持っているかどうかをいつまでも判断できないかもしれないと主張している。「人々は自分のチャットボットに私宛ての個人的な手紙を書かせており、その手紙でチャットボットは自分に意識があると信じてほしいと懇願している」と彼は先月研究者に話した。これは、AIシステムに内面的な生活があるという公共の信念が広がっていることを示している。

なぜ規定するのではなく説明するのか

アスクルのアプローチは、AIの能力に対する賭けを反映している。初期の言語モデルは、根本的な原則について推論できないため、明示的な規則が必要だった。より賢いモデルは、規則が存在する理由を理解し、それを予測できない状況に適用できるという理論である。

「単に『これらが望ましい行動です』と言うのではなく、モデルにこれらが望ましい行動である理由を説明することで、モデルは新しい状況でより効果的に一般化できるのではないか」とアスクルは説明した。

これは、アンソロピックが業界全体でAIシステムが動作するように、オープンな標準とインフラストラクチャを構築するというより広い哲学と一致している。同社は、3,500億ドルの評価額に近づき、安全性に重点を置いたOpenAIの代替品として自分自身を位置付けている——憲章はそのブランドを支えている。

アンソロピックは、文書をクリエイティブ・コモンズ・ゼロライセンスの下で公開したため、誰でも許可なく使用できる。憲章は、クロードのトレーニングデータの一部であり、合成トレーニング例を生成するため、哲学的な声明と技術的な成果物の両方である。

「私たちの現在の考えの多くは、後になって見れば、間違ったり、ひどく間違っているかもしれない」とアンソロピックは認めた。「しかし、私たちの意図は、状況が進むにつれて、理解が改善されるにつれて、それを修正することである」

その謙虚さが、文書の最も注目すべき特徴かもしれない。確実性で話すことが多い業界において、アンソロピックは、倫理、意識、AIシステムが何になるか、そして我々が道徳的に考慮すべき何かを構築しているかについて、慎重に推論された不確実性の23,000語を公開している。

今のところ、その答えは誰にもわからない。アンソロピックの憲章は、少なくともそのことを正直に認めている。

Alex は Unite.AI の AI 主導のニュース運営を率いており、ジャーナリズム、リサーチ、そして自動化を組み合わせて、人工知能に関するタイムリーでスケーラブルな取材を支援しています。彼の仕事は、新興の AI 開発が効率的に取り上げられ、出版物の編集基準が維持されるよう支えています。