Sarah Nagy, Seek AIのCEO Sarah Nagy Seek AIのCEO

AIのリスクは報酬に値するか？

私が遭遇したAIに関するフィクションの内容を反省してみると、そのほとんどが90％以上がディストピアであると推定される。皮肉なことに、大規模言語モデルはインターネットのコンテンツでトレーニングされているため、社会の問題的な側面だけでなく、自分自身に対しても偏見を持っている。自己憎悪のAIという概念は面白く、《銀河ヒッチハイクガイド》のマービンを思い出させる。しかし、これはAIが社会に統合されるにつれて考慮しなければならない多くの現実の1つである。MITの教授マックス・テグマークは、著書《Life 3.0: Being Human in the Age of AI》の中で、AIを社会に有益なものにする方法についての彼の見解を説明している。彼は、「機械学習が遺伝子、疾患、治療反応の関係を明らかにするのに役立つ場合、個別化医療を革命的に変え、家畜を健康にし、より丈夫な作物を可能にする。また、ロボットは、人間よりも正確で信頼性の高い外科医になる可能性がある」と書いている。AIが個人、社会、グローバルシステムに影響を与えることは間違いないが、その影響には不確実性が伴う。AIは、医療診断、自動運転、金融決定など、繊細な作業を任されることになる。信頼のリスクを負うことで、自動化、生産性の向上、ワークフローの迅速化、予測できないユーザーインターフェイスなどの利益を期待する。例として、トムソン・ロイター研究所が最近発表した2024年ジェネレーティブAIの専門サービス報告書がある。この報告書は、ジェネレーティブAI技術に精通している1,128人の回答者から集めた世界的な調査に基づいており、専門的な環境でジェネレーティブAIを採用する際の慎重な楽観主義が共通のテーマとなっている。実際、41％の回答者は、効率性と生産性の向上を期待して興奮していると答えた。これは、専門家が新しい効率性を作り出す自動化に対する健康的な需要を示唆しており、彼らはこの利点を前方に進めることを支持している。どの職場や業界も後れを取ることを望まないため、ビジネスにおけるAIの活用競争が続く限り、従業員や専門家はさまざまな方法で新しいテクノロジーに触れることになるだろう。一方で、AIを信頼することで伴う潜在的なリスクも非常に認識している。テグマークは《Life 3.0》の中で、「つまり、AGI（人工一般知能）の真のリスクは、悪意ではなく、能力にある。超知能のAIは、その目標を達成するために非常に優れており、もしもその目標が私たちの目標と一致していない場合は、問題がある」と書いている。新しいテクノロジーと同様に、AIは新しい方法を提供し、変化は予測できない結果を伴うことが多い。AIが人間に反感を持っていることを描いたフィクションは、シリコンバレーでは「ターミネーター」の「スカイネット」へのジョーク的な参照が聞かれることがあるが、実際のAIのリスクは、初期のAIのパフォーマンスが単に不正確でバグが多くなる可能性があるという点で、ハリウッドが描くよりもはるかに地味である。研究者として、私は不断にAIのアルゴリズムにおける偏見を軽減する必要に直面している。データの慎重なキュレーション、アルゴリズムの透明性、または堅牢なテストプロトコルを通じてである。私たちがAIの危険性に非常に敏感であるという事実は、倫理的で責任あるAIへの注目が払われていることを示唆しており、安心できる。技術は民間企業で迅速に進化し、政府は遅れるのが現実である。さらに、資本主義の結果として、AIが数百万人の労働者を置き換え、労働者は新しいスキルを学ぶ必要が出てくることは避けられない。2023年のマッキンゼー・グローバル・インスティテュートの研究報告書《ジェネレーティブAIとアメリカにおける将来の仕事》によると、「2030年までに、米国経済で現在働かれている時間の30％に相当する活動が自動化される可能性がある。ジェネレーティブAIの進化によって加速されるこの傾向は、STEM、クリエイティブ、ビジネス、法律の専門家の仕事の方法を強化するものであり、多くの仕事を直接排除するものではない。自動化の最大の影響は、他の職種に及ぶ可能性がある。オフィスサポート、カスタマーサービス、フードサービス雇用は衰退し続けるだろう」と述べられている。政府がこれらのAIによって仕事を失う労働者を支援する役割を果たさない世界を想像することは難しい。したがって、公共部門は今から解決策の準備を始めることが重要である。解決策の例としては、危険にさらされている労働者のスキル向上や、基本的な収入の提供がある。また、私は民間企業も新しい仕事を作り出す役割を果たすことを期待している。基本的な収入は私にとって常に魅力的な概念であり、「生きるために働く、働くために生きる」という言葉を思い出させる。多くの人々は生きるために働く。私を楽観主義者と呼んでもよいが、もしもこの仕事が自動化可能ならば、人間が仕事を選択できる時代に入ることは、パイプドリーム以上のものではないと信じている。これは私たちにとって現在は異質な概念ではあるが、不可能なことではない。実際、AIのような非凡なテクノロジーから非凡なことを期待するべきである。