ソートリーダー
AIとテクノフォビアとの闘い
Unite.AI を Google の優先ソースに追加
ジェネレーティブAIやChatGPTのような大規模言語モデルについて話すとき、AIの熱狂とテクノフォビアが混在しています。これは一般大衆にとって自然なことです。新しい興奮するものが好きですが、未知のものを恐れています。新しいことの中には、著名な科学者たちがテクノ・セプティック、あるいはテクノフォビアに陥っていることです。AI研究の6ヶ月間の停止を求める科学者や産業家、またはトップAI科学者であるA. Hinton教授の懐疑主義は、そのような例です。私が思い出すことができる歴史的な類似例は、冷戦時代に科学者の一部が原子爆弾や核兵器を批判したことです。幸いなことに、人類はこれらの懸念をかなり満足のいく方法で解決することができました。
もちろん、誰でも現在のAI事情について疑問を抱く権利があります。
- 大規模言語モデルがなぜうまく機能するのか、そしてそれらに限界があるのかどうか、誰もわかりません。
- 悪い人たちが『AI爆弾』を作成するような多くの危険が潜んでいます。特に、国家が規制面で傍観者である場合にそうです。
これらは未知の恐怖を煽る正当な懸念です。著名な科学者たちも人間である以上、恐怖を感じることは避けられません。
しかし、AI研究を一時的に停止することはできますか。私の見解では、いいえ、AIは人類が複雑性の増大する世界に対する対応であるからです。物理的および社会的な複雑性の増大プロセスは非常に深く、見かけ上は止まらないように思われます。AIと市民の変容は、現在の情報社会から知識社会へのスムーズな移行を実現するための私たちの唯一の希望です。そうでなければ、社会的インプロージョンに直面することになるかもしれません。
解決策は、AIの進歩をより深く理解し、開発を加速し、使用を規制して肯定的な影響を最大化し、既に明らかになっているだけでなく、潜在的な否定的な影響を最小限に抑えることです。AI研究は異なるものになり得ます。よりオープンで、民主的で、科学的で、倫理的でです。以下はそのための提案されたポイントの一覧です。
- 重要なAI研究課題について、最初の言葉は、企業や個人の科学者ではなく、選出された議会や政府に委ねられるべきです。
- AIの社会的および経済的進歩の肯定的な側面を探求し、否定的な側面を最小限に抑えるためのすべての努力が払われるべきです。
- 適切な規制措置が取られれば、AIシステムの肯定的な影響は否定的な影響を大幅に上回ることができます。テクノフォビアは、正当化されず、解決策でもありません。
- 私の見解では、最大の現在の脅威は、AIシステムが、教育レベルが低い、または調査能力が低い一般の人々を遠隔で欺くことができることです。これは、民主主義や社会経済的進歩の任何形態にとって非常に危険です。
- 近い将来、不正行為（大学の試験の不正など、関連する犯罪の可能性のある領域では比較的無害な使用）でのLLMおよび/またはCANの使用からの大きな脅威に対抗しなければなりません。
- 労働市場や市場への影響は、中長期的には非常に肯定的なものになります。
- 上記の観点から、AIシステムは、国際法によって『AIシステムレジスター』に登録されることが求められ、ユーザーにAIシステムと会話したり、結果を使用したりすることを通知する必要があります。
- AIシステムは社会に大きな影響を与えるため、利益と社会経済的進歩を最大化するために、先端的なAIシステム技術はオープンになるべきです。
- AI関連データは、利益と社会経済的進歩を最大化するために、（少なくとも部分的に）民主化されるべきです。
- AI技術のチャンピオンに対する適切な強力な補償制度が予測されるべきです。開放性による利益の損失を補償し、AI研究開発への将来の強力な投資を確保するためです（例：特許、ライセンス制度など）。
- AI研究のバランスは、研究成果を最大化し、競争力を維持し、研究開発のリスクに対する報酬を与えるために、学術と産業の間で再考されるべきです。
- 教育慣行は、AI技術の利点を最大化し、新しい創造的で適応性のある市民や（AI）科学者を生み出すために、すべての教育レベルで見直されるべきです。
- 上記を確保するための適切なAI規制、監督、資金提供メカニズムが作成され、強化されるべきです。
これらのポイントについては、私の最近の『AIサイエンスと社会』という4巻の本で詳細に扱っています。特に、A巻（2023年5月にLLMやAGIを扱うために書き直された）とC巻です。
書籍参照：
