ジュリエット・パウエルとアート・クライナー、著者「AIのジレンマ」- インタビュー・シリーズ

「AIのジレンマ」は、ジュリエット・パウエルとアート・クライナーによって書かれた本です。

ジュリエット・パウエルは、著者、テレビクリエイター（9,000本のライブショーを手がける）、テクノロジスト、社会学者です。彼女はまた、ブルームバーグTV/ビジネスニュースネットワークのコメンテーターであり、エコノミストと国際金融公社が主催する会議のスピーカーです。彼女のTEDトークは、YouTubeで13万回以上再生されています。ジュリエットは、倫理的なAIとデータに頼る成功したビジネスリーダーのパターンと実践を特定しています。彼女は、NYUのITPで教鞭をとっており、責任あるメディアのデザインスキルなどの4つのコースを教えています。

アート・クライナーは、作家、編集者、未来学者です。彼の著書には、「The Age of Heretics」、「Who Really Matters」、「Privilege and Success」、「The Wise」があります。彼は、PwCが発行する賞を受賞した雑誌「strategy+business」の編集長でした。アートは、NYU-ITPとIMAの教員でもあり、責任あるテクノロジーとメディアの未来について共同で教えています。

“AIのジレンマ“は、AIテクノロジーが間違った手に渡ったときの危険性について書かれた本ですが、同時にAIが社会に提供する利点も認めています。

問題は、根本的なテクノロジーが非常に複雑であるため、エンドユーザーがクローズドボックス・システムの内部動作を真正に理解することができないことです。

最も重要な問題の1つは、責任あるAIの定義が常に変化していることです。社会的価値観は時間の経過とともに一貫性を保つことができないからです。

私は「AIのジレンマ」を読んでとても楽しかったです。この本は、AIの危険性をセンセーショナリズムに頼ることなく、AIの限界や懸念事項について読者に教えてくれます。

以下は、読者がこの本から期待できることを示す質問です。

「AIのジレンマ」を書くきっかけは何でしたか?

ジュリエットは、コロンビア大学でAIの規制の限界と可能性を研究するために通いました。彼女は、AIプロジェクトに携わる友人から、そのプロジェクトの内在する緊張について直接聞きました。彼女は、自己規制よりも大きな問題であるAIのジレンマがあると結論付けました。彼女は、Apexベンチマークモデルを開発しました。これは、企業や企業内のグループ間の相互作用によって、AIに関する決定が低責任なものになる傾向にあることを示すモデルです。これが彼女の博士論文につながりました。

アートは、ジュリエットと共同でいくつかのプロジェクトに取り組みました。彼はジュリエットの博士論文を読み、「ここに本がある」と感じました。ジュリエットはアートに共著者として参加するよう誘いました。彼らは一緒に仕事を進めるうちに、自分たちが非常に異なる視点を持っていることを発見しましたが、AIの複雑でリスクの高い現象をよりよく理解する必要性については一致していました。

「AIのジレンマ」で強調されている根本的な問題の1つは、AIシステムが責任あるものか、社会的不平等を永続させるものかを、ソースコードだけから判断することができないことです。この問題はどのくらい大きいものですか?

問題は、ソースコードにのみ存在しません。ケイシー・オニールは、クローズドボックス・システムでは、コードだけではなく、人間とテクノロジーの力が相互に作用する社会技術システムを探求する必要があると指摘しています。AIシステムを構築してリリースする際の論理には、目的の特定、データの特定、優先順位の設定、モデルの作成、ガイドラインとガードレールの設定、人間の介入の決定などが含まれます。これらのプロセスの部分を透明性を持たせる必要があります。少なくとも、観察者や監査人にとってはそうです。社会的不平等やその他のリスクは、これらのプロセスの部分が隠されていると、より大きくなります。ソースコードから設計論理を再構築することはできないのです。

Explainable AI（XAI）に焦点を当てることで、この問題を解決できるのでしょうか?

エンジニアにとって、Explainable AIは、モデルをより透明性を持たせるための技術的制約と実践の集まりです。誤って告発された人にとって、説明可能性には別の意味と緊急性があります。彼らは自分の防御のために説明可能性が必要です。私たちは皆、説明可能性が必要です。説明可能性には、ビジネスや政府の決定がモデルに基づいていることを明らかにすることが含まれます。少なくともアメリカでは、説明可能性と組織の競争とイノベーションの権利の間には、常に緊張が存在するでしょう。監査人と規制当局者は、説明可能性の別のレベルが必要です。これについては、「AIのジレンマ」で詳しく説明しています。

AIコードをリリースする企業（AI企業）を責任あるものにすることの重要性について、簡単にご説明ください。

例えば、アリゾナ州テンペで発生した自律走行車の事故では、運転手が責任を負いました。個人に刑事罰が課せられました。しかし、最終的にはそれは組織的な失敗でした。

橋が崩壊したとき、機械技術者は責任を負います。那は、機械技術者が訓練を受け、定期的に再訓練を受け、専門家によって責任を負わされているからです。コンピューターエンジニアはそうではありません。

ステークホルダー、包括してAI企業を、より良い決定を下し、より責任を持つために訓練し、再訓練するべきでしょうか?

「AIのジレンマ」では、GoogleやMetaが私たちの個人データを収集して金銭的に利用する方法について多く触れています。私たちのデータの重大な誤用の例を1つ挙げてください。

「AIのジレンマ」から、67ページ以下：

新しい個人データの誤用の事例が公に明らかになることが続いています。多くは、顔認識の秘密使用を伴っています。2022年12月、MITテクノロジーレビューは、iRobotの慣行についての説明を発表しました。Roombaの家電ロボットは、ボランティアのベータテスターの自宅で撮影された画像やビデオを記録し、それらは外国へのグループに共有されます。少なくとも1つのケースでは、トイレに座っている個人の画像がFacebookに投稿されました。一方、イランでは、当局が顔認識システムのデータを使用して、ヒジャブを着用していない女性を追跡して逮捕し始めました。16

これらの話をさらに続ける必要はありません。そういった話はたくさんあります。ただ、こうした生活の累積的な効果を認識することが重要です。私たちが生活をコントロールしているという感覚を失います。私たちのプライベート情報が、いつの間にか、警告もなく使われる可能性があるからです。

危険な概念の1つは、世界が「摩擦なし」に設計されているということです。摩擦とは、「顧客が会社とやり取りする際に、顧客が進みを妨げられるか、不満を感じるポイント」です。摩擦なしの体験の期待が、危険なAIにつながる可能性はありますか?

ニュージーランドでは、Pak’n’Saveの賢い食事ロボットが、クロリンガスを生成するレシピを提案しました。これは、顧客が残り物を使用してお金を節約する方法として推奨されていました。

摩擦なしは、コントロールの幻想を生み出します。アプリに従う方が、祖母のレシピを調べるよりも速くて簡単です。人々は抵抗の道を辿り、どこへ行くのか気づきません。摩擦は、創造的です。参加します。実際のコントロールが必要です。実際のコントロールには、注意と労力、そしてAIの場合には、コストと利益の分析が必要です。

コントロールの幻想があると、人間が完全にコントロールを維持しているのではなく、AIシステムが人間をプロンプトしているように感じることがあります。人間がコントロールを維持していない、ただし人間はそう思っている、例をいくつか挙げてください。

サンフランシスコでは現在、ロボタクシーが運行されています。自律走行タクシーのアイデアは、2つの矛盾する感情を引き起こします。興奮（「タクシーが大幅に安くなります！」）と恐怖（「私に当たってしまうのではないか？」）です。したがって、多くの規制当局者は、ロボタクシーを人間と一緒にテストすることを提案しています。そうすれば、システムをオーバーライドすることができます。しかし、ロボタクシーに人間が同乗して、リアルタイムでシステムを操作することは、公共の安全を確保するための良いテストではありません。AIシステムでは、過信が頻繁に発生します。システムがより自律的になるほど、人間のオペレーターはそれをより信頼し、十分な注意を払わないことがあります。私たちはこれらのテクノロジーを監視するのが面倒です。事故が発生しようとしている時に、気づかないことがあります。

この本の調査に驚いたことは何ですか?

私たちが驚いたのは、世界中の人々が、モラルマシンのシミュレーションにおける自律走行車の事故で、誰が生き残り、誰が死ぬべきかについて合意できなかったことです。そうでなければ、AIシステムのための統一的な世界的なガバナンスや、普遍的な標準を想像することは難しいでしょう。

あなたたちは両者とも、起業家であると自己紹介しています。この本で得た知識が、あなたたちの将来の取り組みにどのように影響するでしょうか?

私たちのAIアドバイザリー業務は、企業が責任を持って成長するのを支援することに焦点を当てています。弁護士、エンジニア、社会科学者、ビジネス思考家はすべて、AIの未来の利害関係者です。私たちの仕事では、これらの視点をまとめて、創造的な摩擦を実践して、より良い解決策を見つけます。私たちは、リスクの計算などのフレームワークを開発して、これらの問題を乗り越えるのを支援しています。

素晴らしい回答、ありがとうございます。読者がもっと学びたい場合は、AIのジレンマを訪問してください。