Andre McGregor, Founder and CEO of ForceMetrics & Retired FBI Cyber Special Agent

アメリカのデータプライバシークライシスを露呈する公共の安全におけるウォールドガーデンの問題

AIとそれが要求するデータの拡大するフロンティア人工知能は、私たちが生活する方法、仕事、統治方法を急速に変えている。公衆衛生と公共サービスにおいて、AIツールはより効率的で迅速な意思決定を約束している。しかし、この変革の下には、成長している不均衡がある。私たちがデータを収集する能力は、責任を持ってそれを管理する能力を上回っている。これは、単なるテクノロジーの課題を超えて、プライバシークライシスとなっている。予測ポリスソフトウェア、監視ツール、自動ナンバープレートリーダーなど、個人のデータが集められ、分析され、前例のない速度で実行されている。而して、ほとんどの市民は、誰が自分のデータを所有しているか、どのように使用されているか、またはそれが保護されているかを知らない。私はこれを近くで見てきた。FBIサイバースペシャルエージェントを引退し、現在は公共の安全テクノロジー会社のCEOを務めている。政府と民間の両方で働いてきた。明らかなのは、データプライバシーを今扱わないであれば、AIは既存の問題を悪化させるだけであるということだ。一つの大きな問題は、ウォールドガーデンである。ウォールドガーデンとは何か、それが公共の安全において危険なのかウォールドガーデンとは、企業がデータへのアクセス、流れ、使用を管理する閉じたシステムである。これらは広告やソーシャルメディア（Facebook、Google、Amazonなどのプラットフォームを想像してください）で一般的ですが、増加の一方で、公共の安全でも見られるようになってきている。公共の安全会社は現代の警察インフラストラクチャーにおける重要な役割を果たしているが、一部のシステムの独自性のため、常に他のベンダーのツールとスムーズに連携するように設計されていない。これらのウォールドガーデンは、クラウドベースのボディカメラ映像や自動ナンバープレートリーダーなどの強力な機能を提供するかもしれないが、データの保存、閲覧、分析を独占することにもなる。警察機関は、互いに話しかけ合わない独自のシステムと長期契約に縛られることが多い。結果は、断片化、断片的な洞察、そして最も重要なときにコミュニティに効果的に対応できないことになる。一般の人々は知らない、それが問題であるほとんどの人々は、自分の個人情報がどれだけこれらのシステムに流れ込んでいるかを実感していない。多くの都市では、位置、車両、オンライン活動、そして感情状態さえも、AI駆動のツールのパッチワークを通じて推測され、追跡されることができる。これらのツールは犯罪撲滅のためのアップグレードとして宣伝されるかもしれないが、透明性と規制の欠如のなかでは、容易に誤用される可能性がある。そして、それは単にデータが存在するということだけではなく、それが最小限の監視のあるプライベート企業によって制御されるウォールドガーデンに存在するということである。たとえば、ライセンスプレートリーダーなどのツールは、米国中の何千ものコミュニティでデータを収集し、それを独自のネットワークにフィードしている。警察署は、ハードウェアを所有するのではなく、レンタルしていることが多く、それはデータパイプライン、分析、警報がベンダーによって、そして公的合意によってではなく、決定されることを意味する。これが赤信号を上げるべき理由AIは機能するためにデータが必要である。しかし、データがウォールドガーデンに閉じ込められていると、それを相互参照したり、検証したり、挑戦することはできない。これは、誰が止められるか、どこにリソースが配分されるか、誰が脅威とみなされるかについての決定が、部分的で、時には不正確な情報に基づいて行われることを意味する。リスクは、不適切な決定、潜在的な市民的自由の侵害、警察署とそれが奉仕するコミュニティの間のギャップの拡大である。透明性が失われる。信頼が蒸発する。イノベーションが停滞する，因为新しいツールは、これらのウォールドシステムの制約に従わなければ市場に参入できないからである。ライセンスプレート認識システムが古くなったまたは共有されたデータに基づいて盗難車両を誤って識別するシナリオでは、情報をプラットフォーム間で検証したり、決定がどのように下されたかを監査する能力がない場合、警官は誤った陽性に対して対応することになる。すでに、欠陥のあるテクノロジーが誤認逮捕や対立のエスカレーションにつながったという事件が発生している。これらの結果は仮説的なものではなく、国中のコミュニティで起こっているものである。法執行機関が実際に必要としているものデータをロックするのではなく、セキュアで標準化されたインターオペラビリティのあるデータ共有をサポートするオープンエコシステムが必要である。それはプライバシーを犠牲にすることを意味しない。実際、プライバシー保護が施行される唯一の方法である。一部のプラットフォームはこの目標に向けて取り組んでいる。たとえば、FirstTwoは、公共に利用可能なデータの責任ある統合を重視したリアルタイムの状況認識ツールを提供している。他のプラットフォーム、ForceMetricsは、911の通報、行動健康記録、以前の事件履歴などの異なるデータセットを組み合わせて、警官が現場でより良い文脈を得ることができるようにしている。しかし、重要なのは、これらのシステムが公共の安全のニーズとコミュニティの尊重を優先して構築されていることであり、後に考えられたものではない。プライバシーを第一にしたインフラストラクチャーの構築プライバシーを第一にしたアプローチとは、明確な法的必要性がある場合にのみデータへのアクセスを制限することを意味する。それは、決定がどのように下されたかを文書化し、第三者の監査を可能にすることを意味する。それは、政策や実施を形作るためにコミュニティの利害関係者や市民的自由団体と提携することを意味する。これらのステップは、セキュリティの強化と全体的な正当性につながる。技術的な進歩にもかかわらず、法律の空白の状態で運営している。米国には、包括的な連邦データプライバシーレギュレーションが欠けているため、機関やベンダーはルールを自分たちで作り出している。ヨーロッパには、GDPRがあり、同意ベースのデータ使用と説明責任についての道筋を示している。一方、米国には、AIを公共システムにおける複雑さに対処するために十分ではない、断片的な州レベルのポリシーがある。これは変化しなければならない。法執行機関や公共の安全組織がデータを収集、保存、共有する方法について、明確で施行可能な基準が必要である。また、コミュニティの利害関係者を会話に参加させる必要がある。同意、透明性、説明責任がシステムのすべてのレベルに、調達から実装まで、日常の使用まで組み込まれている必要がある。ボトムライン：インターオペラビリティなしではプライバシーが損なわれる公共の安全において、命がかかっている。ベンダーがミッションクリティカルなデータへのアクセスを制御し、いつ、どのように使用されるかを制限するという考えは、非効率的であるだけでなく、非倫理的である。イノベーションとプライバシーが相反するという神話を超越しなければならない。責任あるAIとは、より公平で効果的で説明責任のあるシステムを意味する。それは、ベンダーのロックインを拒否し、インターオペラビリティを優先し、オープンスタンダードを要求することを意味する。なぜなら、民主主義社会において、どの会社も決定のためのデータを独占するべきではないからである。誰が助けられるか、誰が止められるか、誰が置き去りされるかを決めるデータを、単一の会社が管理するべきではない。