Jak ogrody otoczone murami w bezpieczeństwie publicznym narażają na widok publiczny kryzys prywatności danych w Ameryce

Rozszerzający się obszar sztucznej inteligencji i danych, których wymaga

Sztuczna inteligencja szybko zmienia sposób, w jaki żyjemy, pracujemy i rządzimy. W dziedzinie zdrowia publicznego i usług publicznych, narzędzia sztucznej inteligencji obiecują większą efektywność i szybsze podejmowanie decyzji. Ale pod powierzchnią tej transformacji istnieje rosnąca nierównowaga: nasza zdolność do zbierania danych przewyższa naszą zdolność do odpowiedzialnego zarządzania nimi.

To wykracza poza sam wyzwania techniczne, aby stać się kryzysem prywatności. Od oprogramowania do przewidywania przestępczości po narzędzia nadzoru i automatyczne czytniki tablic rejestracyjnych, dane o osobach są gromadzone, analizowane i wykorzystywane z niezwykłą szybkością. I jednak, większość obywateli nie ma pojęcia, kto jest właścicielem ich danych, w jaki sposób są one wykorzystywane, czy też są one zabezpieczone.

Widziałem to na własne oczy. Jako emerytowany agent specjalny FBI ds. cyberbezpieczeństwa i obecnie CEO wiodącej firmy technologicznej ds. bezpieczeństwa publicznego, pracowałem zarówno w sektorze rządowym, jak i prywatnym. Jedno jest jasne: jeśli nie naprawimy sposobu, w jaki zarządzamy prywatnością danych, sztuczna inteligencja tylko pogorszy istniejące problemy. A jednym z największych problemów są ogrody otoczone murami.

Co to są ogrody otoczone murami i dlaczego są niebezpieczne w bezpieczeństwie publicznym?

Ogrody otoczone murami to zamknięte systemy, w których jedna firma kontroluje dostęp, przepływ i wykorzystanie danych. Są one powszechne w reklamie i mediach społecznościowych (myśl o platformach Facebook, Google i Amazon), ale coraz częściej pojawiają się one również w bezpieczeństwie publicznym.

Firmy zajmujące się bezpieczeństwem publicznym odgrywają kluczową rolę w nowoczesnej infrastrukturze policyjnej, jednakże natura własnościowa niektórych z tych systemów oznacza, że nie zawsze są one zaprojektowane do płynnej interakcji z narzędziami innych dostawców.

Te ogrody otoczone murami mogą oferować potężne funkcjonalności, takie jak chmura do przechowywania nagrań z kamer na mundurach lub automatyczne czytniki tablic rejestracyjnych, ale również tworzą one monopoli nad tym, jak dane są przechowywane, dostępne i analizowane. Agencje policyjne często znajdują się w sytuacji, w której są związane długoterminowymi umowami z systemami własnościowymi, które nie komunikują się ze sobą. Rezultatem jest fragmentacja, rozproszone spostrzeżenia i brak skutecznej reakcji w społeczności, gdy jest to najbardziej potrzebne.

Publiczność nie wie, i to jest problem

Większość ludzi nie zdaje sobie sprawy, ile ich danych osobowych wpływa do tych systemów. W wielu miastach Twoja lokalizacja, pojazd, aktywność w sieci i nawet stan emocjonalny mogą być wnioskowane i śledzone za pomocą patchworku narzędzi napędzanych przez sztuczną inteligencję. Te narzędzia mogą być promowane jako ulepszenia walki z przestępczością, ale w braku przejrzystości i regulacji mogą być łatwo nadużywane.

I nie chodzi tylko o to, że dane istnieją, ale o to, że istnieją w ekosystemach otoczonych murami, które są kontrolowane przez prywatne firmy z minimalnym nadzorem. Na przykład, narzędzia takie jak czytniki tablic rejestracyjnych są obecnie w tysiącach społeczności w całych Stanach Zjednoczonych, gromadząc dane i zasilając je do swojej sieci własnościowej. Działy policyjne często nie posiadają nawet sprzętu, tylko go wynajmują, co oznacza, że potok danych, analiza i alerty są dyktowane przez dostawcę, a nie przez konsens publiczny.

Dlaczego to powinno podnieść czerwone flagi

Sztuczna inteligencja potrzebuje danych, aby funkcjonować. Ale gdy dane są zablokowane w ogrodach otoczonych murami, nie mogą być skorelowane, zweryfikowane ani zakwestionowane. Oznacza to, że decyzje dotyczące tego, kto zostaje zatrzymany, gdzie są przydzielane zasoby, czy kto zostaje uznany za zagrożenie, są podejmowane na podstawie niepełnych, czasem nieprecyzyjnych informacji.

Ryzyko? Złe decyzje, potencjalne naruszenia wolności obywatelskich i rosnąca przepaść między departamentami policyjnymi a społecznościami, które obsługują. Przejrzystość ulega erozji. Zaufanie ulatnia się. A innowacje są tłumione, ponieważ nowe narzędzia nie mogą wejść na rynek, chyba że dostosują się do ograniczeń tych systemów otoczonych murami.

W scenariuszu, w którym system rozpoznawania tablic rejestracyjnych niesłusznie flaguje skradziony pojazd na podstawie przestarzałych lub współdzielonych danych, bez możliwości weryfikacji tych informacji między platformami lub audytu, w jaki sposób podjęto tę decyzję, funkcjonariusze mogą działać na podstawie fałszywych pozytywów. Już widzieliśmy przypadki, w których wadliwa technologia doprowadziła do niesłusznych aresztowań lub eskalacji konfrontacji. Te rezultaty nie są hipotetyczne, występują one w społecznościach w całym kraju.

Co tak naprawdę potrzebuje służba policyjna

Zamiast zamykać dane, potrzebujemy otwartych ekosystemów, które wspierają bezpieczne, standardowe i interoperacyjne udostępnianie danych. To nie oznacza rezygnacji z prywatności. Wręcz przeciwnie, jest to jedyny sposób, aby zapewnić ochronę prywatności.

Niektóre platformy pracują nad tym. Na przykład, FirstTwo oferuje narzędzia do świadomości sytuacyjnej w czasie rzeczywistym, które podkreślają odpowiedzialną integrację publicznie dostępnych danych. Inne, takie jak ForceMetrics, koncentrują się na łączeniu rozproszonych zestawów danych, takich jak połączenia z numerem 911, rekordy zdrowia behawioralnego i historia wcześniejszych incydentów, aby dać funkcjonariuszom lepszy kontekst w terenie. Ale co najważniejsze, te systemy są budowane z uwzględnieniem potrzeb bezpieczeństwa publicznego i szacunku dla społeczności jako priorytetu, a nie jako późniejsza myśl.

Budowanie infrastruktury z priorytetem na prywatność

Prywatność jako priorytet oznacza coś więcej niż tylko usunięcie wrażliwych informacji. Oznacza to ograniczenie dostępu do danych, chyba że istnieje wyraźna, zgodna z prawem potrzeba. Oznacza to dokumentowanie, w jaki sposób są podejmowane decyzje i umożliwianie audytów przez strony trzecie. Oznacza to współpracę z interesariuszami społeczności i grupami praw obywatelskich w celu kształtowania polityki i wdrażania. Te kroki prowadzą do wzmocnienia bezpieczeństwa i ogólnej legitymizacji.

Pomimo postępu technologicznego, nadal działamy w próżni prawnej. Stany Zjednoczone nie mają kompleksowej federalnej legislacji dotyczącej prywatności danych, co pozostawia agencje i dostawców do tworzenia własnych zasad. Europa ma GDPR, który oferuje mapę drogową dla opartego na zgody wykorzystania danych i odpowiedzialności. Stany Zjednoczone, z drugiej strony, mają fragmentaryczny patchwork polityk na poziomie stanowym, które nie adekwatnie adresują złożoności sztucznej inteligencji w systemach publicznych.

To musi się zmienić. Potrzebujemy jasnych, egzekwowalnych standardów dotyczących tego, w jaki sposób organy ścigania i organizacje bezpieczeństwa publicznego gromadzą, przechowują i udostępniają dane. I musimy włączyć interesariuszy społeczności do rozmowy. Zgoda, przejrzystość i odpowiedzialność muszą być wbudowane w każdym poziomie systemu, od zakupu po wdrożenie i codzienne użytkowanie.

Podsumowanie: Bez interoperacyjności prywatność cierpi

W bezpieczeństwie publicznym, życie jest na szali. Idea, że jeden dostawca mógłby kontrolować dostęp do danych krytycznych dla misji i ograniczać, w jaki sposób i kiedy są one wykorzystywane, nie jest tylko niewydajna. Jest to nieetyczne.

Musimy wyjść poza mit, że innowacje i prywatność są ze sobą w konflikcie. Odpowiedzialna sztuczna inteligencja oznacza bardziej sprawiedliwe, skuteczne i odpowiedzialne systemy. Oznacza to odrzucenie blokady dostawcy, priorytet interoperacyjności i żądanie otwartych standardów. Ponieważ w demokracji, żadna firma nie powinna kontrolować danych, które decydują o tym, kto otrzymuje pomoc, kto zostaje zatrzymany, czy kto zostaje pozostawiony.