Cum grădinile închise din siguranța publică expun criza privației datelor din America

Frontiera în expansiune a IA și a datelor pe care le solicită

Inteligenta artificială schimbă rapid felul în care trăim, lucrăm și guvernează. În sănătatea publică și serviciile publice, instrumentele IA promit o mai mare eficiență și o luare a deciziilor mai rapidă. Dar sub suprafața acestei transformări se află o creștere a dezechilibrului: capacitatea noastră de a colecta date a depășit capacitatea noastră de a le guverna în mod responsabil.

Acest lucru merge dincolo de o provocare tehnică pentru a deveni o criză a privației. De la software-ul de poliție predictivă la instrumentele de supraveghere și cititoarele automate de plăcuțe de înmatriculare, datele despre indivizi sunt colectate, analizate și puse în aplicare la o viteză fără precedent. Și, cu toate acestea, majoritatea cetățenilor nu au nici o idee cui aparține datele lor, cum sunt utilizate sau dacă sunt protejate.

Am văzut acest lucru de aproape. Ca fost agent special al FBI pentru criminalistică cibernetică și acum director general al unei companii de tehnologie de siguranță publică de top, am lucrat atât în guvern, cât și în sectorul privat. Un lucru este clar: dacă nu vom rezolva modul în care gestionăm privația datelor acum, IA va face ca problemele existente să devină și mai grave. Și una dintre cele mai mari probleme? Grădinile închise.

Ce sunt grădinile închise și de ce sunt periculoase în siguranța publică?

Grădinile închise sunt sisteme închise în care o singură companie controlează accesul, fluxul și utilizarea datelor. Ele sunt comune în publicitate și social media (gândiți-vă la platforme precum Facebook, Google și Amazon), dar, din ce în ce mai mult, apar și în siguranța publică.

Companiile de siguranță publică joacă un rol cheie în infrastructura modernă de poliție, cu toate acestea, natura lor proprietară înseamnă că nu sunt întotdeauna proiectate pentru a interacționa fluent cu instrumente de la alți furnizori.

Aceste grădini închise pot oferi funcționalități puternice, cum ar fi imagini de la camerele de corp sau cititoare de plăcuțe de înmatriculare automate, dar ele creează, de asemenea, un monopol asupra modului în care datele sunt stocate, accesate și analizate. Agențiile de aplicare a legii se află adesea blocate în contracte pe termen lung cu sisteme proprietare care nu comunică între ele. Rezultatul? Fragmentarea, perspective izolate și incapacitatea de a răspunde eficient în comunitate atunci când este nevoie.

Publicul nu știe, și acesta este un problemă

Majoritatea oamenilor nu realizează cât de multe informații personale curg în aceste sisteme. În multe orașe, locația, vehiculul, activitatea online și chiar starea emoțională pot fi deduse și urmărite prin intermediul unor instrumente IA. Aceste instrumente pot fi comercializate ca îmbunătățiri ale luptei împotriva crimei, dar, în absența transparenței și a reglementărilor, pot fi ușor utilizate în mod abuziv.

Și nu este vorba numai de faptul că datele există, ci și de faptul că ele există în ecosisteme închise controlate de companii private cu supraveghere minimă. De exemplu, instrumente precum cititoarele de plăcuțe de înmatriculare sunt acum în mii de comunități din SUA, colectând date și alimentându-le în rețeaua lor proprietară. Departamentele de poliție nu dețin adesea nici măcar hardware-ul, ci îl închiriază, ceea ce înseamnă că fluxul de date, analiza și alertele sunt dictate de un furnizor și nu de consensul public.

De ce acest lucru ar trebui să ridice semne de avertizare

IA are nevoie de date pentru a funcționa. Dar atunci când datele sunt blocate în grădini închise, ele nu pot fi corelate, validate sau contestate. Acest lucru înseamnă că deciziile despre cine este oprit, unde merg resursele sau cine este marcat ca o amenințare sunt luate pe baza unor informații parțiale, uneori inexacte.

Riscul? Decizii proaste, posibile încălcări ale libertăților civile și o creștere a decalajului dintre departamentele de poliție și comunitățile pe care le deservesc. Transparența se erodează. Încrederea se evaporează. Și inovația este împiedicată, deoarece noi instrumente nu pot intra pe piață, cu excepția cazului în care se conformează constrângerilor acestor sisteme închise.

Într-un scenariu în care un sistem de recunoaștere a plăcuțelor de înmatriculare marchează în mod greșit un vehicul furat pe baza unor date învechite sau partajate, fără a putea verifica aceste informații pe platforme sau a audita modul în care a fost luată decizia, ofițerii pot acționa pe baza unor informații false. Am văzut deja incidente în care tehnologia defectuoasă a condus la arestări ilegale sau la confruntări exacerbate. Aceste rezultate nu sunt ipotetice, ci se întâmplă în comunitățile de pe tot cuprinsul țării.

Ce au nevoie realmente forțele de ordine

În loc să încuie datele, avem nevoie de ecosisteme deschise care să sprijine schimbul de date securizat, standardizat și interoperabil. Acest lucru nu înseamnă sacrificarea confidențialității. Dimpotrivă, este singurul mod de a asigura că protecțiile privației sunt aplicate.

Unele platforme lucrează în acest sens. De exemplu, FirstTwo oferă instrumente de conștientizare situatională în timp real care pun accentul pe integrarea responsabilă a datelor publice. Altele, cum ar fi ForceMetrics, se concentrează pe combinarea seturilor de date disparate, cum ar fi apelurile 911, înregistrările de sănătate comportamentală și istoricul incidentelor anterioare, pentru a oferi ofițerilor un context mai bun pe teren. Dar, în mod esențial, aceste sisteme sunt construite cu nevoile siguranței publice și respectul comunității ca prioritate, nu ca o gândire ulterioară.

Construirea unei infrastructuri cu prioritate pentru confidențialitate

O abordare cu prioritate pentru confidențialitate înseamnă mai mult decât redactarea informațiilor sensibile. Înseamnă limitarea accesului la date, cu excepția cazului în care există o nevoie clară și legală. Înseamnă documentarea modului în care se iau deciziile și permiterea auditării de către terți. Înseamnă colaborarea cu stakeholderii comunitari și grupurile pentru drepturile civile pentru a modela politica și implementarea. Aceste pași conduc la securitate consolidată și la o legitimitate generală.

În ciuda progresului tehnologic, încă operăm într-un vid legal. SUA lipsesc legi cuprinzătoare federale privind confidențialitatea datelor, lăsând agențiile și furnizorii să-și creeze propriile reguli pe măsură ce merg. Europa are GDPR, care oferă o hartă pentru utilizarea bazată pe consimțământ a datelor și responsabilitate. Statele Unite, pe de altă parte, au un mozaic fragmentat de politici la nivel de stat care nu abordează în mod corespunzător complexitățile IA în sistemele publice.

Acest lucru trebuie să se schimbe. Avem nevoie de standarde clare și aplicabile cu privire la modul în care agențiile de aplicare a legii și organizațiile de siguranță publică colectează, stochează și partajează date. Și trebuie să includem stakeholderii comunitari în conversație. Consimțământul, transparența și responsabilitatea trebuie să fie integrate în fiecare nivel al sistemului, de la achiziționare la implementare și utilizare zilnică.

Rezumatul: Fără interoperabilitate, confidențialitatea suferă

În siguranța publică, viețile sunt în joc. Ideea că un furnizor ar putea controla accesul la date critice pentru misiune și restricționa modul și momentul în care sunt utilizate nu este doar ineficientă. Este imoral.

Trebuie să mergem dincolo de mitul că inovația și confidențialitatea sunt în contradicție. IA responsabilă înseamnă sisteme mai echitabile, mai eficiente și mai responsabile. Înseamnă respingerea blocării furnizorului, prioritatea interoperabilității și cererea de standarde deschise. Pentru că, într-o democrație, nicio companie nu ar trebui să controleze datele care decid cine primește ajutor, cine este oprit sau cine este lăsat în urmă.