AI破滅論の煽りとAIカフェの流行：見過ごす余裕のないガバナンス上の課題

私たちは破滅するのか。AIに意識はあるのか。そして、なぜAI企業はカフェを開いているのか。

こうした問いは生々しく、不安をかき立てるものであり、とりわけ意識に関する問いは、まさに難問だ。また、AIをめぐる議論のうち、最も憶測を呼ぶ部分や、感情に強く訴える部分へと私たちの関心を引き寄せる点でも共通している。一方、映画のような派手さのない問いは、すでに人々の暮らしを左右している。AIシステムが被害をもたらしたとき、誰が責任を負うのか。それを可能にしたデータや労働は何だったのか。どのような判断に影響を及ぼすことをAIに認めるべきなのか。そして、誰が意見を述べられるのか。

実存的リスクを提起する人や、機械の意識について論じる人、あるいはカフェを開く人が、こうした問いから目をそらすためにそうしているとは、必ずしも考えていない。それぞれのテーマには、それ自体に注目する価値があるかもしれない。しかし、私たちが割ける注意には限りがある。劇的な話題が注目の中心になるとき、ほかに何が視界からこぼれ落ちたのかを考える価値がある。

AIを実体あるものにする魅力

AI業界では、形のない製品に物理的な拠点を設ける動きが始まっている。Anthropicがニューヨークに設けた「Zero Slop Zone」では、来訪者がコーヒーや本、紙とペンを手に、ゆっくり過ごせるようにした。PerplexityはソウルにCafe Curiousを開き、同社のAIを体験の一部にした。Anthropicの期間限定店舗を取り上げた記事とPerplexityがソウルに開いたカフェについての報道は、抽象的なテクノロジーを日常的な社交の場に持ち込む、異なる二つの試みを紹介している。

それには、ある程度の理屈がある。多くの人は言語モデルを目で見ることも、その背後にあるインフラを調べることもできず、プロンプトを入力してから回答が返るまでに何が起きているのかを思い描くのも容易ではない。カフェは、部屋や一杯の飲み物、会話といった、物理的な代わりとなるものを提供する。企業やそのテクノロジーに触れやすくし、ひょっとすると、理解もしやすくなる。

もう一つの側面もある。物理的な空間は、地域社会の中で企業の存在を見えるものにする。少なくとも、「今、この場所に私たちはいます」と伝えることになる。製品や方針、期待が目まぐるしく変化する分野では、それが安心感につながるかもしれない。しかし、目に見えることと説明責任を果たすことは同じではない。居心地のよい空間によってテクノロジーに親しみを感じても、その学習方法や信頼できる範囲、重要な誤りが起きたときに利用者がどのような救済手段を取れるのかは分からないままだ。

この違いは、私が何年も繰り返し考えてきたある見方に通じる。デジタル体験は、決してデジタルの中だけで完結するものではない。人々は場所や人間関係、制度を通じて、そうした体験と向き合う。問われているのは、AIシステムを単に親しみやすく感じさせる方法ではない。その体験が、人々によるシステムの限界の理解を助け、実質的な主体性を保てるようにするかどうかだ。

意識をめぐる議論――そして、すでに影響を受けている人々

AIの意識をめぐる議論でも、同じ違いが重要になる。機械に意識があり得るのか、どのような証拠が判断材料になるのか、不確実性を踏まえて私たちの責任をどう考えるべきなのかについては、実際に意見が分かれている。NoemaでAnil Sethが展開した議論では、知能と意識を同じものとして扱うべきではないと論じられている。また、The Guardianの最近の報道も、この問いに決着がついていない理由を示している。この議論に、簡単な答えはない。

しかし、機械の内面が不確かだからといって、現代における人間への影響をめぐる問いまで不確かになるわけではない。意識とは何かについて結論が出るまで、責任を問うことを先送りにする必要はない。人々に影響を及ぼすシステムを組織が構築、導入し、そこから利益を得る時点で、責任の問題は始まっている。

今すぐ調べられる問いを考えてみよう。システムの学習にはどのような情報が、どんな条件のもとで使われたのか。出力を準備し、確認する作業は誰が担っているのか。異なる集団の間で、システムの性能にどのような差があるのか。医療や採用、教育、公共サービスで使われた場合、何が起きるのか。自動化された推奨に異議を申し立て、人間の意思決定者に連絡し、納得できる説明を得ることはできるのか。

こうした懸念は仮定の話ではない。医療AIのバイアスに関するレビューでは、偏ったデータや設計上の選択が、不公平な臨床判断につながり得ることが説明されている。一方、AIと雇用に関する研究は、今も発展途上にある。Anthropicによる労働市場の分析は影響を受ける度合いを測る一つの方法を示し、Hamilton Projectによるレビューは、労働市場全体への影響を示す証拠がまだ不十分だと指摘している。これらの資料は、現時点で何を結論づけられるかについて異なる方向を示している。しかし、確信に満ちた筋書きで証拠を置き換えるのではなく、影響を測定する必要性をいずれも裏付けている。

システムについての語り方にも、関連するリスクがある。人間らしい名前や声、会話のスタイルは、AIを製品というより人間に近い存在だと感じさせることがある。それは、信頼や、回答をどの程度うのみにするかに影響し得る。意識をめぐる議論や擬人化されたデザインによって、システムの目標や限界を定める組織から注意がそれる可能性があるのかを問うのは妥当だ。MIT Technology Reviewに掲載されたある分析は、意識をめぐる物語が企業の説明責任に関する問いを曇らせると論じている。これは、そうした枠組みがもたらす影響についての主張であり、この問題を提起するすべての人に隠れた動機があるという証拠ではない。

破滅論はガバナンス計画ではない

人類存亡に関わるリスクには、真剣に向き合う必要があります。破局的な結果が起こり得るからといって、より差し迫った危害の重要性が損なわれるわけではありません。同様に、破局の可能性があるからといって、差し迫った危害の重要性が損なわれるわけでもありません。どちらか一方の時間軸を選び、もう一方を無視する必要はありません。

しかし、「私たちは破滅するのか？」が話題のすべてになってしまうと、長期的なリスクが再び、いま起きている危害を押しのけてしまいます。破滅という言葉は、行動への呼びかけではなく、結論のように響くことがあります。結果が避けられないのなら、それを変えるための困難な取り組みに、なぜわざわざ挑むのでしょうか。New Yorker誌に掲載された、存亡リスクを扱う講座についての記事では、ある学生が「大聖堂を建てる」ような問いを投げかけています。世界が終わるかもしれないと考えているのに、自分がいなくなった後まで残るかもしれないものを、なぜあえて築こうとするのか、という問いです。答えは、リスクが消えてなくなるということではありません。不確実だからといって、次に何が大切かを決め、これから起きることを形づくる力も、そうする責任も失われるわけではない、ということです。

私が「戦略的楽観主義」と呼ぶ考え方は、そういうものです。根拠もなく「すべてうまくいく」と考えることでも、証拠に目を向けないことでもありません。現実のリスクを認め、その低減に努めること、そしてその取り組みと並行して、実現を目指す価値のある未来に真剣に力を注ぐことを意味します。希望は、厳密さの対極にあるものではありません。希望があるからこそ、厳密な検討を行動につなげられることもあります。

見世物の陰にあるガバナンス上の課題

組織がAIツールを導入する場合でも、自ら開発する場合でも、AIに関する方針を定める場合でも、実務上の問いは、カフェや意識をめぐる主張ほど華やかではありません。しかし、より有益です。

• 目的：このシステムはどのような問題の解決を目指しているのか。そのためにAIを使うのが適切なのか。
• エビデンス：さまざまな利用者や、あまり一般的でない事例も含め、どのように検証されてきたのか。
• 境界：どの判断は人間が担い続けるべきなのか。また、このシステムにできないことは何か。
• 説明責任：システムに不具合が起きた場合、誰が責任を負うのか。影響を受けた人は、どのように異議を申し立てられるのか。
• 透明性：AIが使われていることや、その出力にどのような情報が影響したのかを、人々が理解できるのか。
• 継続的な監督：導入後、誰が性能や変化するデータ、意図しない影響を監視するのか。

NISTのAIリスク管理フレームワークのような枠組みは、AIシステムのライフサイクル全体を通じて、組織がリスクを特定し管理するための体系的な方法を提供します。どのような枠組みも、判断や社会的な議論に取って代わることはできません。しかし、責任の所在や検証方法、救済を求める手段が明確になれば、ガバナンスはより具体的になります。

管理すべき物理的な側面もあります。AIを支えているのはインターフェースだけではありません。データセンター、電力、水、土地、資金も必要です。大規模なデータセンタープロジェクトの資金調達の仕組みに関する報道は、インフラのリスクがどのように開示され、最終的に誰がその負担を負うのかという問いを投げかけます。カフェは人々がAIに触れる機会を提供するかもしれませんが、それだけでAIを支えるインフラを理解しやすくすることはできません。

ですから、カフェを楽しんでください。意識について大きな問いを投げかけてください。破局的なリスクを真剣に受け止めてください。そして、いま検証し、影響を及ぼせる判断に立ち返りましょう。何がつくられるのか、誰が利益を得るのか、誰が費用を負担するのか、そして何か問題が起きたときにどのような安全策があるのか、という判断です。

未来は、見出しによって下される判決ではありません。それは企業、組織、政府、地域社会が行う選択の積み重ねであり、今なお問い直し、変えることができます。最も有益な問いは、私たちは破滅するのか、ということだけではありません。AIが人々の豊かな暮らしに貢献するには、どのような条件が必要なのか。そして、その条件を現実にするために、私たちは何をする覚悟があるのか、ということです。