Wendy Gilbert, senior viceprezidentka produktového oddělení společnosti Mark43 – série rozhovorů

Wendy Gilbert, Senior Vice President of Product ve společnosti Mark43, má více než dvě desetiletí zkušeností v oblasti technologií pro veřejnou bezpečnost, s kariérou sahající od vedení produktového managementu v organizacích jako CentralSquare Technologies, TriTech Software Systems a VisionAIR. Postupně se vypracovala přes role zaměřené na systémy správy záznamů (RMS) a platformy pro veřejnou bezpečnost, nyní vede produktovou strategii ve společnosti Mark43, kde je odpovědná za tvarování vývoje cloudových řešení používaných policejními úřady. Její působení odráží hlubokou specializaci na modernizaci softwaru kritického pro mise pro první respondenty, se zaměřením na uživatelskou přívětivost, soulad a provozní efektivitu ve vysoce rizikových prostředích.

Mark43 je přední poskytovatel cloudového softwaru pro veřejnou bezpečnost, nabízející integrovanou platformu, která zahrnuje správu záznamů (RMS), počítačem podporovanou dispečink (CAD), analytiku a mobilní nástroje navržené pro policejní a záchranné služby. Postavený na architektuře SaaS, platforma umožňuje agenturám zefektivnit psaní zpráv, spravovat případy a přistupovat k datům v reálném čase z jakéhokoli místa, což významně snižuje administrativní zátěž a zlepšuje doby reakce. Jejich systémy jsou navrženy tak, aby nahradily zastaralou infrastrukturu škálovatelnými, zabezpečenými a mobilními řešeními, pomáhajícími více než stovkám agentur zlepšit povědomí o situaci, spolupráci a celkové výsledky veřejné bezpečnosti.

Vy jste strávila přes dvě desetiletí budováním produktů napříč společnostmi jako VisionAIR, TriTech, CentralSquare a nyní Mark43. Jak se vaše perspektiva na technologii veřejné bezpečnosti vyvinula a co se zdá být zásadně odlišné od této současné vlny přijetí AI?

Technologie se hodně změnila za posledních dvě desetiletí. Během většiny této doby byla technologie navržena tak, aby podporovala misi až po skutečnosti. Systémy zachycovaly, co se stalo, ale neaktivně pomáhaly tvarovat, co by se mělo stát dál. To je to, co je nyní zásadně odlišné.

Poprvé nebudeme pouze přidávat technologii do pracovních postupů veřejné bezpečnosti. Představujeme si tyto systémy jako AI-nativní od základu, což zcela mění roli, kterou technologie hraje. Přecházíme ze systémů záznamů na systémy akce. Místo toho, abychom pouze dokumentovali incidenty, pomáháme agenturám interpretovat, priorizovat a jednat v reálném čase. To je poprvé v mé kariéře, kdy jsem viděla, že technologie skutečně funguje na rychlosti, kterou veřejná bezpečnost vyžaduje, a to je dodávat produkty, které mohou transformovat, jak agentury fungují dennodenně a nakonec dodávat lepší výsledky veřejné bezpečnosti.

Výzkum společnosti Mark43 ukazuje silnou podporu AI mezi policejními úřady, ale také jasnou očekávání lidského dohledu. Co vlastně znamená smysluplná lidská účast v dennodenních operacích?

V každém produktovém rozhodnutí je zásada jasná. AI podporuje. Lidé rozhodují.

AI může strukturovat zprávu, povrchovat odkazy napříč záznamy nebo zvýraznit klíčové informace v hovoru. Ale policejní důstojník, dispečer nebo vyšetřovatel je vždy ten, kdo uplatňuje soud a činí rozhodnutí. V praxi to znamená, že AI urychluje cestu k vhledu, zatímco udržuje odpovědnost u člověka. To zrychluje, navrhuje a spojuje, ale nerozhoduje.

To je especialmente důležité v pracovních postupech CAD a RMS, kde rozhodnutí nesou reálné důsledky. Role AI je snížit tření a kognitivní zátěž, aby mohli profesionálové veřejné bezpečnosti soustředit se na vše, co vyžaduje jejich odbornost.

Jedním z opakujících se obav je, zda AI-podporované zprávy a rozhodnutí budou obstát v soudním řízení. Jak navrhujete systémy, které jsou nejen operačně užitečné, ale také právně obhajitelné?

Přicházející z pozadí CAD a RMS, obhajitelnost není “hezké mít”. Pokud záznamy ze systému nemohou obstát v soudním řízení, nástroje nejsou připraveny pro použití ve veřejné bezpečnosti.

To začíná transparentností. Každý AI-generovaný výstup musí být přímo spojen se svými zdrojovými daty. Uživatelé potřebují být schopni stopovat přesně, odkud informace pocházejí, jak byly vygenerovány a jak byly použity. Pokud není tato vazba jasná, systém nebude obstát pod drobnohledem. Systém také potřebuje znát své limity. Když jsou data neúplná, navrhujeme AI, aby povrchovat tuto mezeru, ne pokusit se ji sama vyřešit. Nesmí hadat.

Další kritickou součástí je sladění se skutečným provozem agentur. AI nemůže diktovat politiku nebo pracovní postup. Musí se přizpůsobit právním požadavkům, standardům hlášení a provozním realitám každé agentury.

Integrujeme konfigurovatelnost přímo do systému. Ověřování souladu a povolení AI lze nastavit na úrovni zprávy a kódu trestného činu, aby agentury mohly zvolit, kde je podpora AI vhodná a kde nikoli. Například agentura může povolit podporu AI pro nižší incidenty, zatímco ji omezit v případech, které nesou vyšší standard důkazů.

Také udržujeme plnou transparentnost ohledně toho, jak se AI používá. Každá instance zapojení AI je zaznamenána a plná historie konceptu je uchována v rámci zprávy. To vytváří jasný, přezkoumatelný záznam, který podporuje jak interní odpovědnost, tak externí právní kontrolu.

Tyto systémy musí obstát v kontrolách od nadřízených, právníků a veřejnosti, aby byly operačně užitečné a efektivní.

Z vašich zkušeností, kde AI již dodává měřitelnou hodnotu ve veřejné bezpečnosti dnes a kde ještě nesplňuje očekávání?

Nejpřímější hodnota je v jádru pracovních postupů, na kterých jsem pracovala po celou svou kariéru.

Psaní zpráv je esenciální, ale je to také trvalý odběr času. AI mění to tak, že dokumentace probíhá vedle práce, ne po ní. To je významný posun pro důstojníky a agentury, které zajišťují omezení personálu.

Ale větší posun se děje v tom, jak agentury přecházejí od informací k akci. AI může povrchovat, co je důležité v reálném čase, ne jen po skutečnosti. Kde vidím mezeru, není to v technologii. Je to v tom, jak organizace operationalizují ji. AI vyžaduje jasnou politiku, správu a školení, aby byla efektivní. Agentury, které ji považují za transformaci pracovního postupu, vidí výsledky. Pokud agentury vidí ji pouze jako funkci, nezamkne stejnou příležitost.

Předpojatost zůstává jednou z kritických výzev v AI, zejména ve výkonné moci, kde historická data mohou odrážet systémové problémy. Jak Mark43 přistupuje k minimalizaci předpojatosti, zatímco udržuje přesnost a důvěru v systémech?

Předpojatost je skutečnou obavou, zejména v systémech, které spoléhají na historická data.

Z produktového hlediska není odpověď zakrýt, jak systém funguje. Je to udělat ho více transparentním a odpovědnějším. Snažíme se zlepšit kvalitu dat na vstupu, zajistit konzistentní výstupy a zajistit, že je vždy lidská kontrola. V systémech CAD a RMS lepší data vedou k lepšímu rozhodování. AI by to mělo posílit, ne oslabit.

Cílem je zakotvit rozhodnutí v úplnějších a konzistentnějších informacích, zatímco zajišťujeme, že každý výstup může být prozkoumán, auditován a vylepšen s časem.

Transparentnost a audibilita jsou často diskutovány jako požadavky pro odpovědnou AI. Co vypadá plná audibilita v praxi pro agentury, které používají AI-poháněné nástroje?

Ve systémech veřejné bezpečnosti byla audibilita vždy esenciální. AI zvyšuje laťku.

Pro agentury, které používají AI, by měla existovat úplná viditelnost do toho, co bylo vygenerováno, jaká data informovala o tom a jak bylo použito. Nic by nemělo existovat bez jasného spojení se základním záznamem. Každý výstup by měl být vysvětlitelný. Každý krok by měl být přezkoumatelný. To je způsob, jakým budujete systémy, které lze důvěřovat, nejen operačně, ale i veřejně.

Mnohé agentury veřejné bezpečnosti stále spoléhají na zastaralé systémy a fragmentovaná data. Jak důležité je modernizace infrastruktury předtím, než AI může skutečně dodat smysluplné výsledky?

AI je pouze tak silná, jako je základ, na kterém stojí. Pracovala jsem s legacy CAD a RMS prostředími po většinu své kariéry a viděla jsem osobně, jak omezená fragmentovaná systémy omezují to, co agentury mohou dělat. Vyšetřovatelé používající tyto systémy často musí dotazovat několik nástrojů, aby pochopili jediný případ. To není udržitelné.

AI závisí na propojených, přístupných datech. Pokud systémy jsou izolované nebo vyžadují manuální obcházení, AI nemůže dodat smysluplné výsledky. Stává se další vrstvou komplexity místo síly. Moderní, cloudové infrastruktury odemykají možnost AI napříč celým propojeným platformou.

Existuje rostoucí zájem o AI systémy, které mohou jednat místo toho, aby pouze poskytovaly vhledy. Vidíte budoucnost, kde AI aktivně participuje na pracovních postupech, jako je správa případů nebo dispečink, a kde by měly být stanoveny hranice?

AI bude pokračovat v pronikání do pracovních postupů, zejména v oblastech, jako je zpracování hovorů, triáž a správa případů. Bude stále více koordinovat pracovní postupy, priorizovat akce a povrchovat nejlepší další kroky v reálném čase. Ale v veřejné bezpečnosti budou muset být jasně stanoveny hranice. AI může doporučovat, priorizovat a povrchovat klíčové informace. Může snížit čas, který potřebujete k přechodu od informací k akci. Ale rozhodnutí, která ovlivňují lidské životy, musí zůstat u vyškolených profesionálů. Naším cílem je jasnота a důvěra v pravý okamžik.

Veřejná důvěra je esenciální v policijní činnosti, zejména když jsou zavedeny nové technologie. Jaké záruky jsou nejúčinnější při zajišťování, že AI posiluje důvěru místo toho, aby ji podkopávala?

Rozpoznáváme, že důvěra je něco, co agentury veřejné bezpečnosti pracují na získání každý den. Technologie musí splňovat stejný standard. Pro AI to začíná viditelností a transparentností. Uživatelé potřebují pochopit, co systém dělá a proč. Také vyžaduje konzistentnost, správu a schopnost přezkoumat výsledky s časem. Budujeme s zpětnou vazbou přímo z terénu, protože důvěra je založena na skutečném použití a kontinuální validaci.

Pohledem do budoucna na příštích několik let, jak očekáváte, že se role AI ve veřejné bezpečnosti vyvine z administrativní podpory směrem k rozhodování v reálném čase?

AI se stane zabudovanou součástí celého životního cyklu veřejné bezpečnosti, od okamžiku, kdy hovor přijde, až po to, jak je případ vyřešen. Největší posun bude v tom, jak rychle agentury mohou přejít od informací k akci. To vždy byla výzva v systémech CAD a RMS. Přecházíme k modelu, kde systém rozumí, jak vaše agentura funguje, anticipuje první kroky v pracovním postupu a pomáhá je provést, zatímco zůstává lidsky orientovaný.

Role AI je snížit administrativní zátěž, sjednotit fragmentované systémy, povrchovat správné informace ve správný čas a podporovat lepší rozhodnutí pod tlakem. AI nemůže nahradit zkušenosti. Pomáhá zajistit, aby lidé na předních liniích byli lépe informováni, připraveni a podporováni ve všech rozhodnutích, která činí.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Mark43.