Jak uzavřené systémy ve veřejné bezpečnosti vystavují Ameriku krizi soukromí dat

Rozšiřující se hranice umělé inteligence a data, která vyžaduje

Umělá inteligence rychle mění, jak žijeme, pracujeme a řídíme. Ve veřejném zdraví a veřejných službách slibují nástroje umělé inteligence větší efektivitu a rychlejší rozhodování. Ale pod povrchem této transformace se rozšiřuje nerovnováha: naše schopnost shromažďovat data překročila naši schopnost je zodpovědně řídit.

To jde beyond jen technickou výzvu a je to krize soukromí. Od předpovědního softwaru pro policii až po nástroje pro sledování a automatické čtečky registračních značek, data o jednotlivých osobách jsou shromažďovány, analyzovány a používány s nebývalou rychlostí. A přesto, většina občanů nemá tušení, kdo vlastní jejich data, jak jsou používána nebo zda jsou chráněna.

Já jsem to viděl zblízka. Jako bývalý speciální agent FBI a nyní CEO přední společnosti pro technologii veřejné bezpečnosti, jsem pracoval v obou vládních a soukromých sektorech. Jedno je jasné: pokud nebudeme řešit způsob, jakým nakládáme s daty, umělá inteligence bude pouze zhoršovat stávající problémy. A jedním z největších problémů jsou uzavřené systémy.

Co jsou uzavřené systémy a proč jsou nebezpečné ve veřejné bezpečnosti?

Uzavřené systémy jsou uzavřené systémy, kde jedna společnost kontroluje přístup, tok a použití dat. Jsou běžné v reklamě a sociálních médiích (například platformy Facebook, Google a Amazon), ale stále více se objevují i ve veřejné bezpečnosti.

Společnosti pro veřejnou bezpečnost hrají klíčovou roli v moderní policejní infrastruktuře, avšak proprietární povaha některých těchto systémů znamená, že nejsou vždy navrženy pro bezproblémovou interakci s nástroji od jiných dodavatelů.

Tyto uzavřené systémy mohou nabízet powerfulní funkcionality, jako cloud-based záznamy z policejních kamer nebo automatické čtečky registračních značek, ale také vytvářejí monopol nad tím, jak jsou data uložena, přístupná a analyzována. Policejní úřady se často ocitají v dlouhodobých smlouvách s proprietárními systémy, které spolu nemluví. Výsledkem je fragmentace, izolované poznatky a neschopnost účinně reagovat v komunitě, když to nejvíce záleží.

Veřejnost neví, a to je problém

Většina lidí si neuvědomuje, kolik osobních informací proudí do těchto systémů. V mnoha městech může být vaše poloha, vozidlo, online aktivita a dokonce i emocionální stav odvozen a sledován prostřednictvím sítě nástrojů umělé inteligence. Tyto nástroje mohou být marketingovány jako vylepšení boje proti zločinu, ale v absence transparentnosti a regulace mohou být snadno zneužity.

A není to jen to, že data existují, ale že existují v uzavřených ekosystémech, které jsou kontrolovány soukromými společnostmi s minimální kontrolou. Například nástroje pro čtení registračních značek jsou nyní v tisících komunitách po celých Spojených státech, shromažďují data a přivádějí je do svých proprietárních sítí. Policejní úřady často ani nevlastní hardwar, ale pronajímají si ho, což znamená, že datový tok, analýza a upozornění jsou diktovány dodavatelem, a ne veřejným konsenzem.

Proč by to mělo vyvolat červené signály

Umělá inteligence potřebuje data, aby fungovala. Ale když jsou data uzavřena v uzavřených systémech, nemohou být křížově ověřena, validována nebo zpochybněna. To znamená, že rozhodnutí o tom, kdo je zastaven, kam směřují zdroje nebo kdo je označen jako hrozba, jsou učiněna na základě částečných, někdy nepřesných informací.

Riziko? Špatná rozhodnutí, potenciální porušování občanských svobod a rostoucí mezera mezi policejními úřady a komunitami, které slouží. Transparentnost se zhoršuje. Důvěra se vytrácí. A inovace je potlačena, protože nové nástroje nemohou vstoupit na trh, pokud se neřídí omezeními těchto uzavřených systémů.

V scénáři, kde systém rozpoznávání registračních značek nesprávně označuje ukradené vozidlo na základě zastaralých nebo sdílených dat, bez možnosti ověřit tyto informace napříč platformami nebo audity, jak bylo toto rozhodnutí učiněno, mohou důstojníci jednat na základě falešných pozitiv. Již jsme viděli incidenty, kde poškozená technologie vedla k nesprávným zatčením nebo eskalovaným konfrontacím. Tyto výsledky nejsou hypotetické, dějí se v komunitách po celých Spojených státech.

Co skutečně potřebuje law enforcement

Místo toho, aby data uzavřela, potřebujeme otevřené ekosystémy, které podporují zabezpečené, standardizované a interoperabilní sdílení dat. To neznamená, že bychom museli obětovat soukromí. Naopak, je to jediný způsob, jak zajistit, že ochrana soukromí je vynucena.

Některé platformy pracují na tomto. Například FirstTwo nabízí nástroje pro situational awareness, které zdůrazňují zodpovědnou integraci veřejně dostupných dat. Jiné, jako ForceMetrics, se zaměřují na kombinaci různých datových sad, jako jsou hovory na linku 911, záznamy o chování a předchozí historii incidentů, aby poskytly důstojníkům lepší kontext v terénu. Ale zásadně, tyto systémy jsou navrženy s ohledem na potřeby veřejné bezpečnosti a respekt komunity, ne jako dopočet.

Stavba infrastruktury s prioritou soukromí

Priorita soukromí znamená více než pouze mazání citlivých informací. Znamená to omezení přístupu k datům, pokud není jasná, zákonná potřeba. Znamená to dokumentování, jak jsou učiněna rozhodnutí, a umožnění třetím stranám provést audit. Znamená to partnerství s komunitními aktéry a skupinami pro občanská práva, aby se formovala politika a implementace. Tyto kroky vedou ke zvýšené bezpečnosti a celkové legitimitě.

Navzdory technologickým pokrokům, stále operujeme v právním vakuu. Spojené státy postrádají komplexní federální legislativu o ochraně soukromí dat, což nechává agentury a dodavatele, aby si vytvářeli自己的 pravidla. Evropa má GDPR, který nabízí mapu pro používání dat na základě souhlasu a odpovědnosti. Spojené státy, na rozdíl od toho, mají fragmentovanou síť státních politik, které nedostatečně řeší složitosti umělé inteligence ve veřejných systémech.

To musí změnit. Potřebujeme jasná, vynutitelná standardy pro to, jak agentury a organizace pro veřejnou bezpečnost shromažďují, ukládají a sdílejí data. A musíme zahrnout komunitní aktéry do konverzace. Souhlas, transparentnost a odpovědnost musí být vtěleny do každého úrovně systému, od pořízení až po denní použití.

Závěrečné shrnutí: Bez interoperability trpí soukromí

Ve veřejné bezpečnosti jsou na hře životy. Nápad, že by jeden dodavatel mohl kontrolovat přístup k kritickým datům a omezovat, jak a kdy jsou používána, není jen neefektivní. Je to neetické.

Musíme se přesunout za mýtus, že inovace a soukromí jsou v rozporu. Zodpovědná umělá inteligence znamená více rovných, efektivních a odpovědných systémů. Znamená to odmítnutí uzamčení dodavatele, prioritu interoperability a požadavek na otevřené standardy. Protože v demokracii by žádná společnost neměla kontrolovat data, která rozhodují, kdo dostane pomoc, kdo bude zastaven nebo kdo bude ponechán pozadu.