Jak Ogrody Zamknięte w Bezpieczeństwie Publicznym Narażają Amerykańską Prywatność Danych

Rozszerzający Się Obszar Sztucznej Inteligencji i Wymaganych Danych

Sztuczna inteligencja szybko zmienia sposób, w jaki żyjemy, pracujemy i rządzimy. W zdrowiu publicznym i usługach publicznych, narzędzia AI obiecują większą wydajność i szybsze podejmowanie decyzji. Ale pod powierzchnią tej transformacji rośnie dysproporcja: nasza zdolność do zbierania danych przewyższa naszą zdolność do odpowiedzialnego zarządzania nimi.

To wykracza poza sam wyzwania techniczne i staje się kryzysem prywatności. Od oprogramowania do przewidywania przestępczości po narzędzia nadzoru i automatyczne czytniki tablic rejestracyjnych, dane o osobach są gromadzone, analizowane i wykorzystywane w bezprecedensowej skali. I nie tylko to, że te dane istnieją, ale także to, że istnieją w zamkniętych systemach, które są kontrolowane przez prywatne firmy z minimalnym nadzorem.

Jako były agent specjalny FBI ds. cyberbezpieczeństwa i obecnie CEO wiodącej firmy technologicznej ds. bezpieczeństwa publicznego, pracowałem zarówno w sektorze rządowym, jak i prywatnym. Jedno jest jasne: jeśli nie naprawimy sposobu, w jaki zarządzamy prywatnością danych, sztuczna inteligencja tylko pogorszy istniejące problemy. A jednym z największych problemów są ogrody zamknięte.

Czym Są Ogrody Zamknięte i Dlaczego Są Niebezpieczne w Bezpieczeństwie Publicznym?

Ogrody zamknięte to zamknięte systemy, w których jedna firma kontroluje dostęp, przepływ i wykorzystanie danych. Są one powszechne w reklamie i mediach społecznościowych (jak platformy Facebook, Google i Amazon (AMZN )), ale coraz częściej pojawiają się również w bezpieczeństwie publicznym.

Firmy bezpieczeństwa publicznego odgrywają kluczową rolę w nowoczesnej infrastrukturze policyjnej, jednakże charakter własnościowy niektórych z tych systemów oznacza, że nie zawsze są one zaprojektowane do płynnej interakcji z narzędziami innych dostawców.

Te ogrody zamknięte mogą oferować potężne funkcjonalności, takie jak chmura do przechowywania nagrań z kamer policyjnych lub automatyczne czytniki tablic rejestracyjnych, ale również tworzą monopole na dostęp do danych, ich przechowywanie i analizę. Agencje policyjne często znajdują się w sytuacji, w której są związane długoterminowymi umowami z systemami własnościowymi, które nie komunikują się ze sobą. Wynikiem jest fragmentacja, izolowane spostrzeżenia i brak skutecznej reakcji w społeczności, gdy jest to najbardziej potrzebne.

Społeczeństwo Nie Wie, i To Jest Problem

Większość ludzi nie zdaje sobie sprawy, ile ich danych osobowych wpływa do tych systemów. W wielu miastach Twoja lokalizacja, pojazd, aktywność w sieci i nawet stan emocjonalny mogą być wnioskowane i śledzone za pomocą szeregu narzędzi opartych na sztucznej inteligencji. Te narzędzia mogą być reklamowane jako ulepszenia do walki z przestępczością, ale w braku przejrzystości i regulacji mogą być łatwo nadużywane.

I nie chodzi tylko o to, że te dane istnieją, ale o to, że istnieją w zamkniętych systemach, które są kontrolowane przez prywatne firmy z minimalnym nadzorem. Na przykład, narzędzia do czytania tablic rejestracyjnych są już w tysiącach społeczności w Stanach Zjednoczonych, gromadząc dane i wprowadzając je do swoich sieci własnościowych. Departamenty policyjne często nie posiadają nawet sprzętu, tylko go wynajmują, co oznacza, że potok danych, analiza i alarmy są dyktowane przez dostawcę, a nie przez konsensus publiczny.

Dlaczego To Powinno Wywołać Czerwone Flagi

Sztuczna inteligencja potrzebuje danych, aby funkcjonować. Ale gdy dane są zamknięte w ogrodach, nie mogą być skorelowane, zweryfikowane ani zakwestionowane. Oznacza to, że decyzje o tym, kto zostanie zatrzymany, gdzie będą przydzielane zasoby, czy kto zostanie uznany za zagrożenie, są podejmowane na podstawie niepełnych, czasem nieprecyzyjnych informacji.

Ryzyko? Złe decyzje, potencjalne naruszenia wolności obywatelskich i rosnąca przepaść między departamentami policyjnymi a społecznościami, które obsługują. Przejrzystość ulega erozji. Zaufanie paruje. A innowacje są tłumione, ponieważ nowe narzędzia nie mogą wejść na rynek, chyba że dostosują się do ograniczeń tych systemów zamkniętych.

W scenariuszu, w którym system rozpoznawania tablic rejestracyjnych niesłusznie oznacza skradziony pojazd na podstawie przestarzałych lub współdzielonych danych, bez możliwości weryfikacji tych informacji w różnych platformach lub audytu, w jaki sposób podjęto tę decyzję, funkcjonariusze mogą działać na podstawie fałszywych pozytywów. Już widzieliśmy przypadki, w których wadliwa technologia doprowadziła do niesłusznych aresztowań lub eskalacji konfrontacji. Te wyniki nie są hipotetyczne, występują w społecznościach na całym kraju.

Czego Naprawdę Potrzebuje Egzekwowanie Prawa

Zamiast zamykać dane, potrzebujemy otwartych systemów, które wspierają bezpieczne, standardowe i interoperacyjne udostępnianie danych. To nie oznacza rezygnacji z prywatności. Wręcz przeciwnie, jest to jedyny sposób, aby zapewnić ochronę prywatności.

Niektóre platformy pracują w tym kierunku. Na przykład, FirstTwo oferuje narzędzia do świadomości sytuacyjnej w czasie rzeczywistym, które podkreślają odpowiedzialne integrowanie danych publicznie dostępnych. Inne, jak ForceMetrics, koncentrują się na łączeniu rozproszonych zestawów danych, takich jak połączenia 911, rekordy zdrowia behawioralnego i historia wcześniejszych incydentów, aby dać funkcjonariuszom lepszy kontekst w terenie. Ale co najważniejsze, te systemy są budowane z uwzględnieniem potrzeb bezpieczeństwa publicznego i szacunku dla społeczności jako priorytetu, a nie jako późniejsze rozważanie.

Budowanie Infrastruktury z Prywatnością na Czele

Prywatność jako priorytet oznacza coś więcej niż tylko usuwanie wrażliwych informacji. Oznacza ograniczanie dostępu do danych, chyba że istnieje wyraźna, legalna potrzeba. Oznacza dokumentowanie, w jaki sposób są podejmowane decyzje, oraz umożliwianie audytów przez strony trzecie. Oznacza współpracę ze społecznościami i grupami praw obywatelskich w kształtowaniu polityki i wdrożenia. Te kroki prowadzą do wzmocnienia bezpieczeństwa i ogólnej legitymizacji.

Pomimo postępu technologicznego, nadal działamy w próżni prawnej. Stany Zjednoczone nie mają kompleksowej federalnej legislacji o ochronie prywatności danych, pozostawiając agencje i dostawców do tworzenia własnych zasad. Europa ma RODO, które oferuje mapę drogową dla opartego na zgody wykorzystania danych. Stany Zjednoczone, z drugiej strony, mają fragmentaryczny patchwork polityk na poziomie stanowym, który nie adekwatnie rozwiązuje złożoności sztucznej inteligencji w systemach publicznych.

To musi ulec zmianie. Potrzebujemy jasnych, egzekwowalnych standardów dotyczących tego, w jaki sposób organy ścigania i organizacje bezpieczeństwa publicznego gromadzą, przechowują i udostępniają dane. I musimy włączyć społeczność w tę dyskusję. Zgoda, przejrzystość i odpowiedzialność muszą być wbudowane w każdy poziom systemu, od pozyskiwania do wdrożenia i codziennego użytkowania.

Podsumowanie: Bez Interoperacyjności Prywatność Cierpi

W bezpieczeństwie publicznym życia są na szali. Idea, że jeden dostawca mógłby kontrolować dostęp do danych krytycznych dla misji i ograniczać, w jaki sposób i kiedy są one używane, nie jest tylko nieefektywna. Jest nieetyczna.

Musimy wyjść poza mit, że innowacje i prywatność są ze sobą w konflikcie. Odpowiedzialna sztuczna inteligencja oznacza bardziej równoprawne, skuteczne i odpowiedzialne systemy. Oznacza odrzucenie zamykania przez dostawców, priorytet dla interoperacyjności i żądanie otwartych standardów. Ponieważ w demokracji żadna firma nie powinna kontrolować danych, które decydują o tym, kto otrzymuje pomoc, kto zostaje zatrzymany, czy kto zostaje pozostawiony.