Jak uzavřené systémy ve veřejné bezpečnosti odhalují krizi ochrany dat v Americe

Rozšiřující se hranice umělé inteligence a požadovaných dat

Umělá inteligence rychle mění, jak žijeme, pracujeme a řídíme. Ve veřejné zdravotnictví a veřejných službách slibují nástroje umělé inteligence větší efektivitu a rychlejší rozhodování. Ale pod povrchem této transformace je rostoucí nerovnováha: naše schopnost shromažďovat data předčila naši schopnost je odpovědně řídit.

To jde za hranice pouhé technické výzvy a stává se krizí ochrany soukromí. Od softwaru pro prediktivní policing až po nástroje pro sledování a automatické čtečky registračních značek se o jedincích shromažďují, analyzují a činí rozhodnutí v bezprecedentní rychlosti. A přesto většina občanů nemá tušení, kdo vlastní jejich data, jak jsou používána nebo zda jsou chráněna.

To jsem viděl na vlastní oči. Jako bývalý specialista kybernetické kriminality FBI a nyní CEO vedoucí společnosti pro technologii veřejné bezpečnosti jsem pracoval napříč oběma sektory – veřejným a soukromým. Jedno je jisté: pokud nevyřešíme způsob, jakým nakládáme s ochranou soukromí, umělá inteligence pouze zhorší stávající problémy. A jedním z největších problémů jsou uzavřené systémy.

Co jsou uzavřené systémy a proč jsou nebezpečné ve veřejné bezpečnosti?

Uzavřené systémy jsou uzavřené systémy, kde jedna společnost kontroluje přístup, tok a použití dat. Jsou běžné v reklamě a sociálních médiích (například platformy Facebook, Google a Amazon), ale stále více se objevují i ve veřejné bezpečnosti.

Společnosti pro veřejnou bezpečnost hrají klíčovou roli v moderní policejní infrastruktuře, nicméně proprietární povaha některých těchto systémů znamená, že nejsou vždy navrženy pro bezproblémovou interakci s nástroji od jiných dodavatelů.

Tyto uzavřené systémy mohou nabízet powerfulní funkčnost, jako je cloudová úschovna záznamů z policejních kamer nebo automatické čtečky registračních značek, ale také vytvářejí monopol nad tím, jak jsou data uložena, přístupná a analyzována. Policejní úřady se často ocitají v dlouhodobých smlouvách s proprietárními systémy, které spolu nekomunikují. Výsledkem je fragmentace, izolované přehledy a neschopnost účinně reagovat v komunitě, když to nejvíce záleží.

Veřejnost o tom neví, a to je problém

Většina lidí si neuvědomuje, kolik jejich osobních informací proudí do těchto systémů. V mnoha městech může být vaše poloha, vozidlo, online aktivita a dokonce i emocionální stav odvozen a sledován prostřednictvím patchworku nástrojů poháněných umělou inteligencí. Tyto nástroje mohou být prezentovány jako vylepšení boje proti zločinu, ale v absence transparentnosti a regulace mohou být snadno zneužity.

A nejde jen o to, že data existují, ale že existují v uzavřených ekosystémech, které jsou kontrolovány soukromými společnostmi s minimální kontrolou. Například nástroje jako čtečky registračních značek jsou nyní v tisících komunitách po celých Spojených státech, shromažďují data a přivádějí je do své proprietární sítě. Policejní úřady často ani nevlastní hardware, pouze si je pronajímají, což znamená, že tok dat, analýza a upozornění jsou diktovány dodavatelem, a ne veřejným konsensem.

Proč by to mělo vyvolat červené signály

Umělá inteligence potřebuje data, aby fungovala. Ale když jsou data uzavřena v uzavřených systémech, nemohou být křížově ověřena, ověřena nebo zpochybněna. To znamená, že rozhodnutí o tom, kdo je zastavován, kam směřují zdroje nebo kdo je označen jako hrozba, jsou učiněna na základě částečných, někdy nepřesných informací.

Riziko? Špatná rozhodnutí, potenciální porušování občanských svobod a rostoucí propast mezi policejními úřady a komunitami, které slouží. Transparentnost se snižuje. Důvěra mizí. A inovace jsou potlačeny, protože nové nástroje nemohou vstoupit na trh, pokud se nevejdou do omezení těchto uzavřených systémů.

V scénáři, kde systém rozpoznávání registračních značek chybně označí ukradené vozidlo na základě zastaralých nebo sdílených dat, bez možnosti ověřit tuto informaci napříč platformami nebo auditovat, jak bylo toto rozhodnutí učiněno, mohou důstojníci jednat na základě falešných pozitiv. Už jsme viděli incidenty, kde chybná technologie vedla k nespravedlivým zatčením nebo eskalaci konfliktů. Tyto výsledky nejsou hypotetické, dějí se v komunitách po celém světě.

Co skutečně potřebuje law enforcement

Místo uzavírání dat potřebujeme otevřené ekosystémy, které podporují bezpečné, standardizované a interoperabilní sdílení dat. To neznamená obětovat soukromí. Naopak, je to jediný způsob, jak zajistit, že ochrana soukromí bude vynucena.

Některé platformy pracují na tomto. Například FirstTwo nabízí nástroje pro situační povědomí v reálném čase, které zdůrazňují odpovědnou integraci veřejně dostupných dat. Jiné, jako ForceMetrics, se soustředí na kombinování různorodých datových sad, jako jsou hovory na tísňovou linku, záznamy o chování a předchozí historie incidentů, aby poskytly důstojníkům lepší kontext v terénu. Ale zásadně, tyto systémy jsou postaveny s ohledem na potřeby veřejné bezpečnosti a úctou ke komunitám, nikoli jako následná myšlenka.

Stavba infrastruktury s prioritou ochrany soukromí

Přístup s prioritou ochrany soukromí znamená více než pouze mazání citlivých informací. Znamená to omezit přístup k datům, pokud není jasná, zákonná potřeba. Znamená to dokumentovat, jak jsou učiněna rozhodnutí, a umožnit audit třetími stranami. Znamená to partnerství s komunitními stakeholdery a skupinami pro občanská práva, aby formovaly politiku a implementaci. Tyto kroky vedou ke zvýšené bezpečnosti a celkové legitimitě.

Navzdory technologickým pokrokům stále operujeme v právním vakuu. Spojené státy postrádají komplexní federální legislativu o ochraně dat, což nechává agentury a dodavatele, aby si vytvářeli pravidla, jak jdou. Evropa má GDPR, která nabízí mapu pro používání dat založených na souhlasu a odpovědnosti. Spojené státy, na rozdíl od toho, mají fragmentovaný patchwork státních politik, které nedostatečně řeší složitosti umělé inteligence ve veřejných systémech.

To musí změnit. Potřebujeme jasná, vynutitelná standardy pro to, jak orgány činné v trestním řízení a organizace veřejné bezpečnosti shromažďují, ukládají a sdílejí data. A musíme zahrnout komunitní stakeholdery do konverzace. Souhlas, transparentnost a odpovědnost musí být integrovány do každé úrovně systému, od pořízení až po implementaci a denní použití.

Závěrečné shrnutí: Bez interoperability trpí ochrana soukromí

Ve veřejné bezpečnosti jsou na hře životy. Myšlenka, že jeden dodavatel by mohl kontrolovat přístup k kritickým datům a omezovat, jak a kdy jsou používána, není jen neefektivní. Je neetická.

Musíme jít za mýtus, že inovace a ochrana soukromí jsou v rozporu. Odpovědná umělá inteligence znamená více rovné, efektivní a odpovědné systémy. Znamená to odmítání uzamčení dodavatele, prioritu interoperability a vyžadování otevřených standardů. Protože v demokracii by žádná jediná společnost neměla kontrolovat data, která rozhodují, kdo dostane pomoc, kdo bude zastaven nebo kdo bude zanechán pozadu.