公的安全におけるウォールドガーデンの危険性とアメリカのデータプライバシークライシス

AIとデータの拡大するフロンティア

人工知能は、私たちが生活する、働く、統治する方法を急速に変えている。人工知能は、公共の健康と公共サービスにおいても、より効率的な意思決定と迅速な対応を約束する。 しかし、この変化の下にあるのは、責任あるデータ管理に対する私たちの能力の低さである。つまり、私たちのデータ収集能力は、データを責任ある方法で管理する能力を上回っている。

これは単なるテクノロジーの課題ではなく、プライバシークライシスである。予測ポリシングソフトウェア、監視ツール、自動ナンバープレートリーダーなど、個人のデータが、前例のない速度で収集、分析、利用されている。 しかしながら、ほとんどの市民は、誰が自分のデータを所有しているか、どのように利用されているか、または保護されているかを知らない。

私はこれを身近で見てきた。FBIサイバースペシャルエージェントを務めた後、現在は公共の安全テクノロジー企業のCEOを務めており、政府と民間の両方で働いてきた。明らかなのは、データプライバシーを今すぐに解決しなければ、AIは既存の問題を悪化させるだけである。最大の問題の1つは、ウォールドガーデンである。

ウォールドガーデンとは何か、それが公共の安全において危険である理由

ウォールドガーデンとは、1つの企業がデータのアクセス、流れ、利用を制御する閉鎖システムである。広告やソーシャルメディア（Facebook 、Google 、Amazonなど）ではよく見られるが、公共の安全でも増えてきている。

公共の安全企業は、現代の警察インフラストラクチャーにおいて重要な役割を果たしている。しかし、一部のシステムは、他のベンダーのツールとスムーズに連携するように設計されていないため、プロプライエタリな性質を持っている。

これらのウォールドガーデンは、クラウドベースのボディカメラ映像や自動ナンバープレートリーダーなどの強力な機能を提供するが、データの保存、 доступ、分析を独占することにもなる。警察庁は、他のシステムと連携しないプロプライエタリシステムとの長期契約に縛られることが多い。結果は、断片化、断片的な洞察、そして最も重要なときにコミュニティに効果的に対応できないことである。

市民は知らない、それが問題である

ほとんどの人は、自分の個人情報がどれほど多くこれらのシステムに流れ込んでいるかを理解していない。多くの都市では、自分の位置、車、オンライン活動、感情状態がAI駆動のツールによって推測され、追跡されることができる。これらのツールは、犯罪対策のアップグレードとして販売されるが、透明性と規制の欠如により、誤用される可能性がある。

そして、それはデータが存在するだけではなく、データが最小限の監視のあるプライベート企業によって制御されるウォールドガーデンに存在することである。たとえば、ナンバープレートリーダーなどのツールは、米国中の数千のコミュニティでデータを収集し、それを独自のネットワークにフィードしている。警察庁は、ハードウェアを所有していない場合が多く、ベンダーがデータパイプライン、分析、警報を決定することになる。

これは赤旗を揚げるべき理由

AIはデータを必要とする。しかし、データがウォールドガーデンに閉じ込められている場合、クロスリファレンス、検証、または挑戦することはできない。これは、誰が止められるか、どこにリソースが配分されるか、誰が脅威とみなされるかについての決定が、部分的で、時には不正確な情報に基づいて行われることを意味する。

リスクは、貧弱な決定、潜在的な市民的自由の侵害、警察庁とコミュニティの間のギャップの拡大である。透明性は劣化する。信頼は蒸発する。イノベーションは停滞する，因为新しいツールは、これらのウォールドガーデンの制約に従わなければ市場に入ることができない。

ナンバープレート認識システムが、古いまたは共有されたデータに基づいて盗難車両を誤って識別したシナリオでは、プラットフォーム間で情報を検証したり、決定がどのように下されたかを監査したりする能力がない場合、警官は誤った陽性に基づいて行動する可能性がある。すでに、欠陥のあるテクノロジーが誤認逮捕や激化した対立につながった事件が発生している。

法執行機関が実際に必要とするもの

データをロックするのではなく、セキュアで標準化されたインターオペラビリティデータ共有をサポートするオープンエコシステムが必要である。プライバシーを犠牲にする必要はない。実際、プライバシーの保護を保証する唯一の方法である。

一部のプラットフォームは、この目標に向けて取り組んでいる。たとえば、FirstTwoは、公共に公開されているデータの責任ある統合を強調したリアルタイムの状況認識ツールを提供している。他のプラットフォーム、たとえばForceMetricsは、911の通報、行動健康レコード、以前の事件履歴などの異なるデータセットを組み合わせて、現場での警官により良いコンテキストを提供することに焦点を当てている。しかしながら、これらのシステムは、公共の安全とコミュニティの尊重を優先して設計されている。

プライバシーファーストのインフラストラクチャーを構築する

プライバシーファーストアプローチとは、機密情報を削除すること以上のものである。明確な法的必要性がある場合にのみ、データへのアクセスを制限することである。決定がどのように下されたかを文書化し、第三者による監査を可能にすることである。コミュニティの利害関係者や市民権グループと提携して、政策と実装を形作ることである。これらのステップにより、セキュリティと全体的な正当性が強化される。

技術的な進歩にもかかわらず、法律の空白地帯で運営している。米国には、包括的な連邦データプライバシーレギュレーションが欠けているため、機関やベンダーは、自分たちで規則を作っている。欧州には、GDPRがあり、同意に基づくデータ使用と説明責任のロードマップを提供している。米国では、AIシステムにおける複雑さを十分に扱っていない、州レベルの政策の断片化が見られる。

これは変化しなければならない。法執行機関や公共の安全機関がデータを収集、保存、共有する方法について、明確で施行可能な基準を必要としている。コミュニティの利害関係者を会話に含める必要がある。同意、透明性、説明責任がシステムのすべてのレベルに組み込まれている必要がある。

結論：インターオペラビリティなしではプライバシーが損なわれる

公共の安全において、命が懸かっている。ミッションクリティカルなデータへのアクセスを制御し、使用方法を制限する1つのベンダーがあるという考えは、非効率的であるだけでなく、非倫理的である。

イノベーションとプライバシーは相反するという神話を超越しなければならない。責任あるAIとは、より公平で、効果的で、説明責任のあるシステムを意味する。ベンダーロックインを拒否し、インターオペラビリティを優先し、オープンスタンダードを要求することを意味する。民主主義において、1つの企業が、誰が助けられるか、誰が止められるか、誰が置き去りされるかを決定するデータを制御するべきではない。