ChatGPTの潜在的なリスクに関する懸念が高まり、AIの開発を一時停止することは賢明な選択ですか？

エロン・マスクや他の世界的なテクノロジー・リーダーは、ChatGPTのリリースに続いて、AIの開発を一時停止することを呼びかけました。しかし、批評家の中には、開発を停止することは解決策ではないと考える人もいます。AIのエバンジェリストであるアンドリュー・ペリー（Andrew Pery）は、ABBYYというインテリジェント・オートメーション・カンパニーの代表であり、開発を停止することは「歯磨き粉をチューブに戻すようなものだ」と述べています。ここで、彼はなぜ開発を停止するべきではないのかについて説明しています…

AIアプリケーションは、ほぼ私たちの生活のすべての側面に影響を及ぼしています。開発を停止することは、称賛に値することですが、現在では実現不可能かもしれません。

AIの潜在的な有害な影響を抑制するために、規制の監督を強化する必要性を叫ばせる懸念は、確かに存在しています。

最近、イタリアのデータ保護局は、ChatGPTの使用を一時的に全国的に停止しました。理由は、モデルをトレーニングするために使用される個人データの収集と処理方法に関するプライバシーに関する懸念、および子供たちが「彼らの年齢と認識に完全に不適切な」回答にさらされる可能性があることです。

ヨーロッパ消費者機構（BEUC）は、EUに、ChatGPTや同様のチャットボットが人々を欺き、操作する可能性があるという懸念が高まっていることを受けて、調査を求めています。これらのAIシステムには、より厳格な公開の監視が必要であり、公的機関はそれらを管理する必要があります。

アメリカでは、Center for AI and Digital Policyが、ChatGPTは、連邦貿易委員会法（FTC法）（15 USC 45）の第5条に違反しているとの訴えを連邦貿易委員会に提出しました。訴えの根拠は、ChatGPTが、FTCがAIシステムの透明性と説明可能性に関するガイダンスに違反しているというものです。ChatGPTは、プライバシー権を侵害したり、有害なコンテンツを生成したり、誤情報を広めたりするなど、既知のリスクを認めています。

ChatGPTのような大規模言語モデルの有用性は、研究によって裏付けられていますが、その「暗い面」も指摘されています。ChatGPTは、インターネットから大規模なトレーニング・データセットを利用する深層学習アルゴリズムに基づいているため、誤った回答を生成することが証明されています。他のチャットボットとは異なり、ChatGPTは、人間の会話に似たテキストを生成する深層学習技術に基づいた言語モデルを使用しており、「答えを出すために、推測を繰り返すため、完全に真実であるかのように誤った答えを主張することができます」。

さらに、ChatGPTは、性別、人種、少数派グループに対する差別的な回答を強調・拡大することが証明されています。これは、企業が軽減しようとしています。ChatGPTは、悪意のある行為者が利用し、ユーザーのプライバシーを侵害し、詐欺攻撃にさらす危険性もあります。

これらの懸念により、欧州議会は、コメントを発表し、現在のEU人工知能法（AIA）案の規定をさらに強化する必要性を強調しました。AIA案は、人事、信用worthiness、雇用、法執行、社会サービスへの適性などの特定の高リスクAIシステムに焦点を当てています。しかし、AIA案は、より高度な認知能力を提供する一般目的AIシステム、たとえば大規模言語モデルを扱っていません。一般目的AIシステムを、開発者が事前に厳格な適合性テストを実施し、市場に出した後も継続的にパフォーマンスを監視する必要がある、高リスクなカテゴリとして規制することを求める声があります。

特に、EUのAIA規制が「従来のAIモデルに主に焦点を当てており、今日誕生を見ている新世代のものには対処していない」と指摘している、非常に役立つ研究があります。

この研究では、規制当局が検討すべき4つの戦略が提案されています。

1. 開発者は、有害な出力を軽減するためのリスク管理プロセスの有効性について定期的に報告する必要があります。
2. 大規模言語モデルを使用する企業は、顧客にコンテンツがAIによって生成されたことを開示する必要があります。
3. 開発者は、潜在的に有害な結果を防ぐために、段階的なリリースプロセスを正式に採用する必要があります。
4. 開発者は、トレーニング・データセットを「誤表現」に対して事前に監査する必要があります。

革新的なテクノロジーに関連するリスクを永続させる要因の1つは、イノベーターが「先に進み、後で修正する」というビジネスモデルを採用することです。OpenAIは、ChatGPTの潜在的なリスクについてある程度透明性を持っていますが、「購入者責任」でユーザーにリスクを負わせることで、広範な商業利用を許可しています。会話型AIシステムの影響が広範囲に及ぶ場合、これは実行可能なアプローチではありません。積極的な規制と厳格な執行措置が、こうした革新的なテクノロジーを扱う際に最重要事項となるべきです。

人工知能は、すでに私たちの生活のほぼすべての側面に浸透しています。したがって、AIの開発を一時停止することは、予測不能な障害や結果をもたらす可能性があります。開発を突然停止するのではなく、業界と立法府のプレーヤーは、透明性、説明責任、公平性などの人間中心の価値観に根ざした、実行可能な規制を共同で作成するべきです。AIAのような既存の法律を参照することで、民間および公的セクターのリーダーは、悪意のある使用を防ぎ、悪影響を軽減する、徹底的で、世界的に標準化されたポリシーを設計できます。そうすることで、人工知能を、人間の経験を向上させる範囲内に保つことができます。