Kuinka julkisen turvallisuuden muuritut puutarhat paljastavat Yhdysvaltojen tietosuojakriisin

Laajeneva rajapinta: tekoäly ja sen vaatima data

Tekoäly muuttaa nopeasti tapamme elää, työskennellä ja hallita. Julkisessa terveydenhuollossa ja julkisissa palveluissa tekoälytyökalut lupaavat lisää tehokkuutta ja nopeampaa päätöksentekoa. Mutta tämän muutoksen alla on kasvava epätasapaino: kykymme kerätä dataa on ylittänyt kykymme hallita sitä vastuullisesti.

Tämä on enemmän kuin pelkästään tekninen haaste, vaan tietosuojakriisi. Ennustavasta poliisiohjelmistosta valvontatyökaluihin ja automaattisiin rekisterikilpien lukijoihin, yksilöiden dataa kerätään, analysoidaan ja käytetään ennennäkemättömällä nopeudella. Ja kuitenkin, useimmat kansalaiset eivät tiedä, kuka omistaa heidän dataansa, miten sitä käytetään tai onko se turvattu.

Olen nähnyt tämän läheltä. Entisenä FBI:n kyberturvallisuuden erikoisagenttina ja nykyään julkisen turvallisuuden teknologiayrityksen toimitusjohtajana olen työskennellyt sekä hallituksen että yksityisen sektorin parissa. Yksi asia on selvä: jos emme korjaa tietosuojan tapaa nyt, tekoäly tekee olemassa olevista ongelmista vain pahempia. Ja yksi suurimmista ongelmista? Muuritut puutarhat.

Mitä muuritut puutarhat ovat ja miksi ne ovat vaarallisia julkisessa turvallisuudessa?

Muuritut puutarhat ovat suljettuja järjestelmiä, joissa yksi yritys hallitsee datan pääsyn, virtauksen ja käytön. Ne ovat yleisiä mainonnassa ja sosiaalisessa mediassa (kuten Facebook, Google ja Amazon), mutta ne ovat yhä enemmän mukana myös julkisessa turvallisuudessa.

Julkisen turvallisuuden yritykset ovat tärkeitä osia modernissa poliisilaitteistossa, mutta joitain näistä järjestelmistä ei aina suunnitella niin, että ne voisivat toimia sulavasti muiden valmistajien työkalujen kanssa.

Nämä muuritut puutarhat tarjoavat voimakkaita ominaisuuksia, kuten pilvipohjaisia bodycam-kuvia tai automaattisia rekisterikilpien lukijoita, mutta ne myös luovat monopolin datan tallentamisesta, pääsystä ja analyysistä. Poliisilaitokset usein joutuvat tilanteeseen, jossa he ovat lukittuina pitkäaikaisiin sopimuksiin omistajiin, eivätkä nämä järjestelmät puhu toistensa kanssa. Tulos? Fragmentaatio, eristyneet näkymät ja kyvyttömyys reagoida tehokkaasti yhteisössä, kun se on tärkeintä.

Yleinen ei tiedä, ja se on ongelma

Useimmat ihmiset eivät tajua, kuinka paljon heidän henkilökohtaista tietoaan virtaa näihin järjestelmiin. Monissa kaupungeissa sijainti, ajoneuvo, verkkotoiminta ja jopa emotionaaliset tilat voidaan johtaa ja seurata tekoälypohjaisilla työkaluilla. Nämä työkalut voidaan markkinoida rikosten torjuntakeinoina, mutta puutteellisen läpinäkyvyyden ja sääntelyn puuttuessa ne voidaan helposti väärinkäyttää.

Ja se ei ole vain sitä, että dataa on olemassa, vaan se, että se on olemassa muuritissa, joita hallitsevat yksityiset yritykset, joilla on vähän valvontaa. Esimerkiksi rekisterikilpien lukijat ovat nyt tuhansissa yhteisöissä ympäri Yhdysvaltoja, keräämässä dataa ja syöttämässä sitä omiin verkkoihinsa. Poliisilaitokset eivät usein omista edes laitteita, vaan vuokraavat ne, mikä tarkoittaa, että dataputki, analyysi ja hälytykset määrätään toimittajan mukaan, eikä yleisen suostumuksen mukaan.

Miksi tämä pitäisi herättää punaisia lippuja

Tekoäly tarvitsee dataa toimimaan. Mutta kun data on lukittu muurituihin, sitä ei voida ristintarkastaa, validoida tai haastaa. Tämä tarkoittaa, että päätökset siitä, kuka pidätetään, mihin resursseja ohjataan tai kuka on merkittynä uhkaavaksi, tehdään osittaisen, usein epätarkan tiedon perusteella.

Riskejä? Huonot päätökset, mahdolliset kansalaisoikeuksien loukkaukset ja kasvava kuilu poliisilaitosten ja niiden palvelemien yhteisöjen välillä. Läpinäkyvyys heikkenee. Luottamus haihtuu. Ja innovaatio jarruu, koska uusia työkaluja ei voida ottaa markkinoille, elleivät ne mukaudu näiden muurittujen järjestelmien rajoituksiin.

Tilanteessa, jossa rekisterikilpien lukijajärjestelmä virheellisesti merkintää varastetusta ajoneuvosta vanhentuneen tai jaetun datan perusteella, ilman mahdollisuutta varmentaa tietoja eri alustoilla tai tarkastella, miten päätös tehtiin, virkavalta voi toimia väärän positiivisen perusteella. Olemme jo nähneet tapauksia, joissa virheellinen teknologia johti väärään pidätykseen tai lisäsi konflikteja. Nämä lopputulokset eivät ole hypoteettisia, ne tapahtuvat yhteisöissä ympäri maata.

Mitä poliisi tarvitsee todella

Sen sijaan, että datan lukitseminen, tarvitsemme avoimia ekosysteemejä, jotka tukevat turvallista, standardoitua ja yhteentoimivuutta datajakoa. Se ei tarkoita, että yksityisyyttä uhrauttaisiin. Päinvastoin, se on ainoa tapa varmistaa, että yksityisyyden suoja on voimassa.

Jotkut alustat ovat työskentelemässä tätä kohti. Esimerkiksi FirstTwo tarjoaa reaaliaikaisia tilannekuvatyökaluja, jotka korostavat vastuullista julkisesti saatavilla olevan datan integrointia. Toiset, kuten ForceMetrics, keskittyvät yhdistämään erilaisia tietoja, kuten 911-puheluita, käyttäytymisen terveydenhuollon tietoja ja aiempien tapahtumien historiaa, jotta virkavalta saa paremman ymmärryksen kenttäolosuhteista. Mutta olennaisesti, nämä järjestelmät on suunniteltu julkisen turvallisuuden tarpeita ja yhteisön kunnioitusta prioriteetiksi, eikä jälkikäteen.

Rakentamassa yksityisyyden ensisijaisuuden infrastruktuuria

Yksityisyyden ensisijaisuus tarkoittaa enemmän kuin vain arkaluontoisen tiedon poistamista. Se tarkoittaa datan pääsyrän rajoittamista, ellei ole selvää, laillista tarvetta. Se tarkoittaa päätöksenteon dokumentointia ja kolmannen osapuolen tarkastusmahdollisuuksien tarjoamista. Se tarkoittaa yhteisössä toimivien sidosryhmien ja kansalaisoikeusryhmien kanssa yhteistyötä politiikan ja toteutuksen muotoilussa. Nämä toimenpiteet johtavat vahvistuneeseen turvallisuuteen ja yleiseen legitiimiin.

Huolimatta teknologisista edistysaskelista, toimimme edelleen lainsäädännöllisessä tyhjiössä. Yhdysvallat ei ole säätänyt kattavaa liittovaltion tietosuojalainsäädäntöä, jättäen virastot ja toimittajat keksimään omat sääntönsä. Euroopalla on GDPR, joka tarjoaa suunnitelman suostumukseen perustuvasta datakäytöstä ja vastuullisuudesta. Yhdysvallat sen sijaan on fragmentoitu, osavaltiokohtaisilla politiikoilla, jotka eivät riitä kattamaan tekoälyn monimutkaisuuksia julkisissa järjestelmissä.

Se pitäisi muuttua. Tarvitsemme selkeitä, voimassa olevia standardeja siitä, miten viranomaiset ja julkisen turvallisuuden organisaatiot keräävät, tallentavat ja jakavat dataa. Ja meidän on sisällyttävä yhteisön sidosryhmät keskusteluun. Suostumus, läpinäkyvyys ja vastuullisuus on sisällyttävä jokaiseen järjestelmän tasoon, hankinnasta toteutukseen ja päivittäiseen käyttöön.

Pohjimmiltaan: ilman yhteentoimivuutta yksityisyyttä ei voida turvata

Julkisessa turvallisuudessa ihmiset ovat vaarassa. Ajatus siitä, että yksi toimittaja voisi hallita pääsyä elintärkeisiin tietoihin ja rajoittaa, miten ja milloin niitä käytetään, ei ole vain tehokkuuden kannalta huono. Se on eettisesti väärä.

Meidän on siirryttävä myytin yli, jonka mukaan innovaatio ja yksityisyyden suoja ovat toisensa vastakohtia. Vastuullinen tekoäly tarkoittaa enemmän tasa-arvoa, tehokkuutta ja vastuullisuutta. Se tarkoittaa toimittajien lukituksen hylkäämistä, yhteentoimivuuden priorisointia ja avoimien standardien vaatimista. Koska demokratiassa yksikään yritys ei pitäisi hallita dataa, joka määrää, kuka saa apua, kuka pidätetään tai kuka jää jälkeen.