Hvordan murte hager i offentlig sikkerhet utsetter Amerikas dataprivacy-kriser

Den utvidende fronten av AI og dataene det krever

Kunstig intelligens endrer raskt hvordan vi lever, arbeider og styrer. I folkehelse og offentlige tjenester lover AI-verktøy mer effektivitet og raskere beslutningstaking. Men under overflaten av denne transformasjonen er det en voksende ubalanse: evnen vår til å samle inn data har overgått evnen vår til å styre det ansvarlig.

Dette går langt ut over bare en teknisk utfordring til å bli en privatlivskrise. Fra prediktiv politiarbeid til overvåkningssystemer og automatiske nummerplatenhetslesere, data om enkelpersoner samles inn, analyseres og brukes i en aldri tidligere skåret hastighet. Og likevel har de fleste borgere ingen anelse om hvem som eier deres data, hvordan de brukes eller om de beskyttes.

Jeg har sett dette på nært hold. Som en pensjonert FBI Cyber Special Agent og nå CEO i et ledende selskap for offentlig sikkerhetsteknologi, har jeg arbeidet på tvers av både offentlig og privat sektor. En ting er klar: hvis vi ikke fikser måten vi håndterer dataprivacy nå, vil AI bare gjøre eksisterende problemer verre. Og ett av de største problemene? Murte hager.

Hva er murte hager og hvorfor er de farlige i offentlig sikkerhet?

Murte hager er lukkede systemer hvor ett selskap kontrollerer tilgangen, flyten og bruken av data. De er vanlige i reklame og sosiale medier (tenk på plattformer som Facebook, Google og Amazon), men stadig mer viser de seg i offentlig sikkerhet også.

Offentlige sikkerhetsselskaper spiller en nøkkelrolle i moderne politi-infrastruktur, men den proprietære naturen til noen av disse systemene betyr at de ikke alltid er designet til å samarbeide flytende med verktøy fra andre leverandører.

Disse murte hagene kan tilby kraftig funksjonalitet som skybasert kroppskameraopptak eller automatiske nummerplatenhetslesere, men de skaper også et monopol over hvordan data lagres, aksesseres og analyseres. Politiet kan ofte finne seg låst i lange kontrakter med proprietære systemer som ikke snakker sammen. Resultatet? Fragmentering, isolerte innsikter og en evne til å reagere effektivt i samfunnet når det betyr mest.

Offentligheten vet ikke, og det er et problem

De fleste mennesker er ikke klar over hvor mye personlig informasjon som flyter inn i disse systemene. I mange byer kan din plassering, kjøretøy, nettaktivitet og selv emocionell tilstand bli antydet og sporet gjennom en patchwork av AI-drevne verktøy. Disse verktøyene kan markedsføres som kriminalitetsbekjempelse, men i fravær av transparens og regulering, kan de lett misbrukes.

Og det er ikke bare at dataene eksisterer, men at de eksisterer i murte økosystemer som kontrolleres av private selskaper med minimal tilsyn. For eksempel, verktøy som nummerplatenhetslesere er nå i tusenvis av samfunn over hele USA, samler inn data og fôrer det inn i deres proprietære nettverk. Politiet eier ofte ikke selv hårdwaren, de leier den, noe betyr at datapipen, analysen og varslingene dikteres av en leverandør og ikke av offentlig konsensus.

Hvorfor dette bør reise røde flagg

AI trenger data for å fungere. Men når data er låst inne i murte hager, kan det ikke kryssefereres, valideres eller utfordres. Dette betyr at beslutninger om hvem som blir stoppet, hvor ressurser går eller hvem som blir markert som en trussel, blir tatt basert på delvis, noen ganger uriktige informasjon.

Risikoen? Dårlige beslutninger, potensielle sivile libertetsbrudd og en voksende gap mellom politiet og samfunnet de tjener. Transparensen forsvinner. Tilliten forsvinner. Og innovasjonen blir hemmet, fordi nye verktøy ikke kan komme inn på markedet med mindre de konformerer til begrensningene i disse murte systemene.

I en scenario hvor et nummerplatenhetslesingssystem feilaktig markerer et stjålet kjøretøy basert på utdatert eller delt data, uten evnen til å verifisere informasjonen over plattformer eller granske hvordan beslutningen ble tatt, kan politiet handle på feilaktige positiver. Vi har allerede sett hendelser hvor feilaktig teknologi ledet til urettmessige arrestasjoner eller eskalerte konfrontasjoner. Disse resultater er ikke hypotetiske, de skjer i samfunn over hele landet.

Hva politiet faktisk trenger

I stedet for å låse data bort, trenger vi åpne økosystemer som støtter sikker, standardisert og interoperabel data-deling. Dette betyr ikke at vi ofrer privatliv. Tværtimot, det er den eneste måten å sikre at privatlivsbeskyttelsen ivaretas.

Noen plattformer arbeider mot dette. For eksempel, FirstTwo tilbyr sanntids situasjonsbevissthet-verktøy som betoner ansvarlig integrasjon av offentlig tilgjengelig data. Andre, som ForceMetrics, fokuserer på å kombinere ulike datasett som 911-oppkall, atferdshelseregister og tidligere hendelseshistorikk for å gi politiet bedre kontekst i feltet. Men avgjørende, disse systemene er bygget med offentlig sikkerhetsbehov og samfunnsrespekt som en prioritet, ikke en ettertanke.

Bygging av en privatlivsvennlig infrastruktur

En privatlivsvennlig tilnærming betyr mer enn å redigere følsom informasjon. Det betyr å begrense tilgangen til data med mindre det er et klart, lovmessig behov. Det betyr å dokumentere hvordan beslutninger tas og å muliggjøre tredjepartsrevisjoner. Det betyr å samarbeide med samfunnsstakeholdere og sivile rettighetsgrupper for å forme politikk og implementering. Disse stegene resulterer i styrket sikkerhet og overordnet legitimitet.

Til tross for de teknologiske fremsteg, opererer vi fortsatt i en juridisk vakuum. USA mangler omfattende føderal dataprivacy-lovgivning, noe som etterlater myndigheter og leverandører til å lage reglene selv. Europa har GDPR, som tilbyr en veikart for samtykksbasert data-bruk og ansvar. USA, på den andre siden, har et fragmentert patchwork av delstatspolitikker som ikke tilstrekkelig håndterer kompleksiteten i AI i offentlige systemer.

Dette må endres. Vi trenger klare, gjennomførbare standarder om hvordan politiet og offentlige sikkerhetsorganisasjoner samler inn, lagrer og deler data. Og vi må inkludere samfunnsstakeholdere i samtalen. Samtykke, transparens og ansvarlighet må være innbygget i hvert trinn av systemet, fra innkjøp til implementering til daglig bruk.

Bunnpunktet: Uten interoperabilitet, lider privatlivet

I offentlig sikkerhet er liv på spill. Tanken om at en leverandør kan kontrollere tilgangen til kritiske data og begrense hvordan og når de brukes, er ikke bare ineffektivt. Det er uetisk.

Vi må gå ut over myten om at innovasjon og privatliv er i konflikt. Ansvarlig AI betyr mer rettferdige, effektive og ansvarlige systemer. Det betyr å avvise leverandør-lås, prioritere interoperabilitet og kreve åpne standarder. For i en demokrati, bør ingen enkelt selskap kontrollere dataene som bestemmer hvem som får hjelp, hvem som blir stoppet eller hvem som blir igjen.