공공 안전의 와ールド 가든은 미국의 데이터 개인 정보 보호 위기를 노출하고 있다

인공지능의 확장과 데이터 수요

인공지능은 우리가 살고, 일하고, 정부를 운영하는 방식을 빠르게 변화시키고 있다. 공공 보건과 공공 서비스에서 인공지능 도구는 더 효율적이고 빠른 의사 결정의 약속을 제공한다. 그러나 이러한 변화를 뒤에서 지지하는 것은 우리가 데이터를 수집하는 능력이 책임감 있게 데이터를 관리하는 능력을 초과하는 것이라는 사실이다.

이것은 단순한 기술적인 문제를 넘어서 개인 정보 보호 위기로 이어진다. 예측형 경찰 소프트웨어, 감시 도구, 자동 번호판 판독기와 같은 인공지능 기반 도구는 개인에 대한 데이터를 대규모로 수집하고 분석하며 조치한다. 그러나 이러한 도구는 투명성과 규제가 부족한 경우 쉽게 남용될 수 있다.

나는 이것을 직접 목격했다. 전 FBI 사이버 특수 요원으로서 그리고 현재 공공 안전 기술 회사 최고 경영자로서, 나는 정부와 민간 부문에서 모두 일해왔다. 하나는 분명하다. 만약 우리가 지금 데이터 개인 정보 보호를 해결하지 않는다면, 인공지능은 기존의 문제를 더 악화시킬 것이다. 그리고 가장 큰 문제 중 하나는 와ールド 가든이다.

와ールド 가든이란 무엇이며 공공 안전에서 왜 위험한가?

와ールド 가든은 하나의 회사에서 데이터에 대한 접근, 흐름, 사용을 제어하는 폐쇄된 시스템이다. 이것은 광고와 소셜 미디어에서 흔히 볼 수 있지만, 점점 더 공공 안전 분야에서도 나타나고 있다.

공공 안전 회사들은 현대의 경찰 인프라에서 중요한 역할을 하지만, 일부 시스템의 독점적인 성격으로 인해 다른 벤더의 도구와 원활하게 상호 작용하도록 설계되지 않는다.

이러한 와ールド 가든은 클라우드 기반 바디캠 영상이나 자동 번호판 판독기와 같은 강력한 기능을 제공할 수 있지만, 데이터가 저장, 접근, 분석되는 방식에 대한 독점을 생성한다. 경찰 기관은 종종 다른 시스템과 통신하지 않는 독점적 시스템과 장기 계약에 묶인다. 결과는 단편화, 분리된 통찰력, 그리고 공동체에서 효과적으로 대응할 수 없는 것이다.

대중은 모른다, 그리고 그것은 문제이다

대부분의 사람들은 자신의 개인 정보가 이러한 시스템으로 얼마나 많이 흐르고 있는지 모른다. 많은 도시에서, 위치, 차량, 온라인 활동, 심지어 감정 상태까지를 추론하고 추적할 수 있는 인공지능 기반 도구가 있다. 이러한 도구는 범죄 예방을 위한 업그레이드라고 판매될 수 있지만, 투명성과 규제가 부족한 경우 쉽게 남용될 수 있다.

그리고 그것은 단순히 데이터가 존재하는 것이 아니라, 와ールド 가든에서 데이터가 존재한다는 것이다. 예를 들어, 자동 번호판 판독기와 같은 도구는 미국 전역의 수천 개의 공동체에서 데이터를 수집하고, 이를 자신의 독점 네트워크로 공급한다. 경찰 부서는 종종 하드웨어를 소유하지 않으며, 대신 이를 임대한다. 이는 데이터 파이프라인, 분석, 경고가 공공의 합의에 의해 결정되지 않고 벤더에 의해 결정됨을 의미한다.

이것은 왜 빨간 깃발을 올려야 하는가?

인공지능은 데이터가 필요하다. 그러나 데이터가 와ールド 가든에 갇히면, 교차 참조, 검증, 또는 도전할 수 없다. 이는 누가 정지되거나, 어디에 자원이 할당되거나, 누가 위협으로 표시되는지에 대한 결정이 부분적이고, 때때로 부정확한 정보에 근거한다는 것을 의미한다.

위험은 나쁨의 결정, 잠재적인 시민의 자유 침해, 그리고 경찰 부서와 그들이 섬기는 공동체 사이의 간격의 증가이다. 투명성이 약화된다. 신뢰가 증발한다. 그리고 혁신이 억제된다. 왜냐하면 새로운 도구가 시장에 진입하기 위해서는 이러한 와ールド 가든의 제약에 따라야 하기 때문이다.

예를 들어, 라이센스 플레이트 인식 시스템이 오래된 또는 공유된 데이터에 근거하여 도난된 차량을 잘못 표시하는 시나리오에서, 플랫폼 간에 정보를 검증하거나 결정이 어떻게 이루어졌는지 감사할 수 없는 경우, 경찰은 잘못된 양성에 따라 행동할 수 있다. 우리는 이미 잘못된 기술이 잘못된 구금이나 대립을 초래한 사건을 목격했다. 이러한 결과는 가상적인 것이 아니라,全国의 공동체에서 발생하고 있다.

법 집행에 실제로 필요한 것

데이터를 잠그는 대신, 우리는 안전하고 표준화된 상호 운용 가능한 데이터 공유를 지원하는 개방형 생태계가 필요하다. 이것은 개인 정보 보호를 희생한다는 것을 의미하지 않는다. 오히려, 이것은 개인 정보 보호가 시행되는唯一한 방법이다.

일부 플랫폼은 이를 위해 노력하고 있다. 예를 들어, FirstTwo는 공공적으로 उपलब한 데이터의 실시간 상황 인식 도구를 제공하며, 책임감 있는 통합을 강조한다. 다른 회사들은 911 호출, 행동 건강 기록, 이전 사건 기록과 같은 다양한 데이터셋을 결합하여 경찰이 현장에서 더 나은 상황을 이해할 수 있도록 노력하고 있다. 그러나 이러한 시스템은 공공 안전의 필요와 공동체의 존중을 우선순위로 두고 설계되었다.

개인 정보 보호 우선 인프라 구축

개인 정보 보호 우선 접근 방식은 민감한 정보를 편집하는 것 이상의 것을 의미한다. 이것은 데이터에 대한 접근을 제한하는 것을 의미한다. 이것은 결정이 어떻게 이루어졌는지 문서화하는 것을 의미한다. 이것은 제3자 감사가 가능하도록 하는 것을 의미한다. 이것은 정책과 구현을 형성하기 위해 공동체 이해관계자와 시민권 단체와 협력하는 것을 의미한다. 이러한 단계는 강화된 보안과 전반적인 합법성을 가져온다.

기술적인 발전에도 불구하고, 우리는 여전히 법적 공백에서 운영하고 있다. 미국은 포괄적인 연방 데이터 개인 정보 보호 법률이 없다, 이는 기관과 벤더가 규칙을 자체적으로 정의하도록 한다. 유럽은 GDPR를 가지고 있으며, 이는 동의 기반 데이터 사용과 책임에 대한 도로를 제공한다. 미국은 AI를 포함한 공공 시스템의 복잡성을 충분히 다루지 않는 주 수준의 정책의 조각으로 구성된 패치워크를 가지고 있다.

이것은 변경되어야 한다. 우리는 법 집행과 공공 안전 기관이 데이터를 수집, 저장, 공유하는 방식에 대한 명확한, 집행 가능한 표준이 필요하다. 그리고 우리는 공동체 이해관계자를 대화에 포함해야 한다. 동의, 투명성, 책임은 시스템의 모든 수준에 통합되어야 한다. 구매에서 구현까지, 일상적인 사용까지.

결론: 상호 운용성이 없으면 개인 정보 보호가 고통받는다

공공 안전에서, 생명이 달려 있다. 하나의 벤더가 임무에 중요한 데이터에 대한 접근을 제어하고, 사용과 사용 시기를 제한하는 것은 비효율적인 것만이 아니다. 그것은 비윤리적이다.

우리는 혁신과 개인 정보 보호가 대립한다는 신화를 넘어선다. 책임감 있는 인공지능은 더 공정하고, 효과적이고, 책임 있는 시스템을 의미한다. 이것은 벤더의 잠금을 거부하고, 상호 운용성을 우선하며, 개방형 표준을 요구한다는 것을 의미한다. 왜냐하면 민주주의에서, 하나의 회사만이誰를 도와주거나,誰를 정지시키거나,誰를 남겨두는지 결정하는 데이터를 제어해서는 안되기 때문이다.

책임감 있는 인공지능은 더 공정하고, 효과적이고, 책임 있는 시스템을 의미한다. 이것은 벤더의 잠금을 거부하고, 상호 운용성을 우선하며, 개방형 표준을 요구한다는 것을 의미한다. 왜냐하면 민주주의에서, 하나의 회사만이誰를 도와주거나,誰를 정지시키거나,誰를 남겨두는지 결정하는 데이터를 제어해서는 안되기 때문이다. 개인 정보 보호와 책임감 있는 인공지능은 대립하는 것이 아니다. 그것은 함께 가야 하는 것이다.