Wendy Gilbert, Senior Vice President of Product, Mark43 – Haastattelusarja

Wendy Gilbert, Mark43:n Senior Vice President of Product, tuo yli kaksi vuosikymmentä kokemusta julkisen turvallisuuden teknologiasta, ura joka kattaa tuotejohtamisen johtamistehtäviä organisaatioissa kuten CentralSquare Technologies, TriTech Software Systems ja VisionAIR. Edetessään johdonmukaisesti tehtävissä, jotka keskittyvät rekisterinhallintajärjestelmiin (RMS) ja julkisen turvallisuuden alustoille, hän johtaa nyt Mark43:n tuotestrategiaa, missä hän on vastuussa pilvipohjaisten ratkaisujen kehittämisestä, joita käytetään lainvalvontaviranomaisissa. Hänen uransa heijastaa syvää erikoistumista kriittisten ohjelmistojen modernisoinnissa ensivastejoukoille, keskittyen käytettävyyteen, vaatimustenmukaisuuteen ja operatiiviseen tehokkuuteen korkeapaineisissa ympäristöissä.

Mark43 on johtava julkisen turvallisuuden pilvipohjaisen ohjelmistoratkaisun tarjoaja, joka tarjoaa integroidun alustan, joka sisältää rekisterinhallinnan (RMS), tietokoneavusteisen hälytysjärjestelmän (CAD), analytiikan ja mobiilityökalut, jotka on suunniteltu lainvalvontaviranomaisille ja hätäpalveluille. Rakennettu SaaS-arkkitehtuurin ympärille, alusta mahdollistaa virastojen suorittaa raporttien kirjoittamisen, hallita tapauksia ja pääsy reaaliaikaisiin tietoihin mistä tahansa, mikä vähentää merkittävästi hallinnollista työtaakkaa ja parantaa vastausaikoja. Sen järjestelmät on suunniteltu korvaamaan perinteisen infrastruktuurin skaalattavilla, turvallisilla ja mobiilikeskeisillä ratkaisuilla, jotka auttavat satoja virastoja parantamaan tilannekuvaa, yhteistyötä ja julkisen turvallisuuden lopputuloksia.

Olet viettänyt yli kaksi vuosikymmentä rakentamassa tuotteita yhtiöissä kuten VisionAIR, TriTech, CentralSquare ja nyt Mark43. Miten näkemyksesi julkisen turvallisuuden teknologiasta on kehittynyt, ja mikä tuntuu perustavanlaatuisesti erilaiselta tässä nykyisessä tekoälyadoption aallossa?

Teknologia on muuttunut paljon viimeisen kahden vuosikymmenen aikana. Suurimman osan tästä ajasta teknologiaa on suunniteltu tukemaan tehtävää tapahtumien jälkeen. Järjestelmät tallensivat, mitä tapahtui, mutta ne eivät aktiivisesti auttaneet muotoilemaan, mitä pitäisi tapahtua seuraavaksi. Se on se, mikä on perustavanlaatuisesti erilaista nyt.

Ensimmäistä kertaa emme vain lisää teknologiaa julkisen turvallisuuden työnkulkuun. Me uudelleenmuokkaamme nämä järjestelmät tekoälyyn perustuviksi alusta alkaen, mikä muuttaa täysin roolia, jonka teknologia pelaa. Siirrymme rekisterijärjestelmistä toimintajärjestelmiin. Sen sijaan, että vain dokumentoimme tapahtumia, me autamme virastoja tulkitsemaan, priorisoimaan ja toimimaan reaaliajassa. Tämä on ensimmäinen kerta urani aikana, jolloin olen nähnyt teknologian toimivan todella julkisen turvallisuuden ansaitsemalla nopeudella, joka on toimittaa tuotteita, jotka voivat muuttaa, miten virastot toimivat päivittäin ja lopulta toimittaa parempia julkisen turvallisuuden lopputuloksia.

Mark43:n tutkimus osoittaa vahvan tuen tekoälylle lainvalvontaviranomaisissa, mutta myös selvän odotuksen ihmisen valvonnasta. Miltä näyttää merkityksellinen ihmisten osallistuminen päivittäisissä toimintatilanteissa?

Jokaisessa tuoteptsoksessa, jonka teemme, periaate on selvä. Tekoäly tukee. Ihmiset päättävät.

Tekoäly voi rakentaa raportin, tuoda esiin linkkejä rekisterien välillä tai korostaa tärkeitä tietoja puhelussa. Mutta poliisi, hälytyskeskuksen työntekijä tai tutkija on aina se, joka soveltaa arviointia ja tekee päätöksen. Käytännössä se tarkoittaa, että tekoäly nopeuttaa polun ymmärtämiseen samalla, kun se pitää vastuun ihmisellä. Se luonnostelee, ehdottaa ja yhdistää, mutta se ei päätle.

Se on erityisen tärkeää CAD- ja RMS-työnkulkuissa, joissa päätökset kantavat todellisia seuraamuksia. Tekoälyn rooli on vähentää kitkaa ja kognitiivista kuormitusta, jotta julkisen turvallisuuden ammattilaiset voivat keskittyä kaikkeen, mitä heidän asiantuntemuksensa vaatii.

Toistuva huolenaihe on, ovatko tekoälyavusteiset raportit ja päätökset oikeudessa pidettävissä. Miten suunnittelette järjestelmiä, jotka ovat sekä operatiivisesti hyödyllisiä että oikeudessa puolustettavissa?

Tultuani CAD- ja RMS-taustasta, puolustettavuus ei ole “miellyttävä”. Jos järjestelmän tuottamat rekisterit eivät kestä oikeudessa, työkalut eivät ole valmiit julkisen turvallisuuden käyttöön.

Tämä alkaa avoimuudesta. Jokaisen tekoälyllä luodun tulosteen on oltava suoraan kytketty siihen alkuperäiseen tietoon. Käyttäjien on kyettävä jäljittämään tarkasti, mistä tieto tuli, miten se luotiin ja miten sitä käytettiin. Jos ketju ei ole selkeä, järjestelmä ei kestä tarkastelua. Järjestelmän on myös tunnistettava rajoitukset. Kun tieto on epätäydellistä, suunnittelemme tekoälyn tuomaan esiin sen aukon, eikä yritä ratkaista sitä itse. Se ei arvaile.

Toinen kriittinen osa on järjestelmän toteutus siten, että se on yhdenmukainen siitä, miten virastot tosiasiallisesti toimivat. Tekoäly ei voi määrätä käytäntöä tai työnkulkua. Se on sopeutettava virastojen oikeudellisiin vaatimuksiin, raportointistandardeihin ja operatiivisiin todellisuuksiin.

Rakennamme mukautuvuuden suoraan järjestelmään. Vaatimustenmukaisuuden validointi ja tekoälyluvat voidaan asettaa raportin ja rikoskohtaisella tasolla, jotta virastot voivat valita, missä tekoälytuki on sovellettavissa ja missä se ei ole. Esimerkiksi virasto voi ottaa käyttöön tekoälytuken alhaisempien tasojen tapauksissa ja rajoittaa sitä tapauksissa, joissa on korkeampi todistusvoima.

Pidämme myös kaiken tekoälyn käytön täysin avoimena. Jokainen tekoälyosallistuminen on kirjattu, ja koko luonnosmuutos on säilytetty raportissa. Se luo selkeän, tarkasteltavissa olevan rekisterin, joka tukee sekä sisäistä vastuuvelvollisuutta että ulkoista oikeudellista tarkastelua.

Nämä järjestelmät on oltava kestäviä tarkastelua vastaan esimiehistä, asianajajilta ja yleisöltä, jotta ne olisivat operatiivisesti hyödyllisiä ja tehokkaita.

Miltä näyttää tekoälyn nykyinen arvo julkisessa turvallisuudessa tänään, ja missä se vielä jää odotuksista?

Arvo on välittömästi nähtävissä ydin työnkuluissa, joissa olen työskennellyt koko urani ajan.

Raporttien kirjoittaminen on välttämätöntä, mutta se on myös pysyvä ajan haaskaus. Tekoäly muuttaa sitä muuttamalla dokumentoinnin tapahtumaksi, joka tapahtuu työn rinnalla, ei sen jälkeen. Se on merkittävä muutos poliiseille ja virastoille, jotka hallitsevat henkilöstörajoituksia.

Isompi muutos tapahtuu siinä, miten virastot siirtyvät tiedosta toimintaan. Tekoäly voi tuoda esiin, mitä on tärkeää reaaliajassa, ei vain tapahtuman jälkeen. Missä näen aukon, ei ole tekniikassa. Se on siinä, miten organisaatiot toteuttavat sen. Tekoäly vaatii selkeät käytäntö, hallinto ja koulutus, jotta se olisi tehokas. Virastot, jotka kohdeltavat sitä työnkulun muutoksena, näkevät tuloksia. Jos virastot näkevät sen vain ominaisuutena, se ei lukitse samaa mahdollisuutta.

Viitekehyksenä pysyväksi ongelmana tekoälyssä, erityisesti lainvalvonnassa, jossa historiallinen data voi heijastaa järjestelmällisiä ongelmia. Miten Mark43 lähestyy tekoälyn puolueettomuuden vähentämistä ylläpitäen tarkkuutta ja luottamusta sen järjestelmissä?

Puolueettomuus on todellinen huolenaihe, erityisesti järjestelmissä, jotka riippuvat historiallisesta datasta.

Tuotepuolelta vastaus ei ole peittää, miten järjestelmä toimii. Se on tehdä se avoimemmaksi ja vastuullisemmaksi. Keskitymme parantamaan datan laatua syötteen kohdassa, tekemään tulokset johdonmukaisiksi ja varmistamaan, että on aina ihmisten tarkastus. CAD- ja RMS-järjestelmissä parempi data johtaa parempiin päätöksiin. Tekoäly pitäisi vahvistaa sitä, ei heikentää.

Tavoitteena on perustaa päätökset täydellisempiin ja johdonmukaisempiin tietoihin samalla, kun varmistetaan, että jokainen tulos voidaan tarkastella, tarkastella ja parantaa ajan myötä.

Avoin ja tarkasteltavissa oleva tekoäly on usein keskustelun aiheena vastuullisessa tekoälyssä. Miltä näyttää täydellinen tarkasteltavuus käytännössä virastoille, jotka käyttävät tekoälyohjattuja työkaluja?

Julkinen turvallisuusjärjestelmissä tarkasteltavuus on aina ollut välttämätöntä. Tekoäly korottaa sen vaatimukset.

Virastoille, jotka käyttävät tekoälyä, on oltava täysi näkyvyys siitä, mitä on luotu, mihin data perustuu ja miten sitä on käytetty. Mitään ei saa olla ilman selkeää yhteyttä alkuperäiseen rekisteriin. Jokainen tulos on selitettävä. Jokainen askel on tarkasteltavissa. Se on tapa, jolla rakennetaan järjestelmiä, joita voidaan luottaa, ei vain operatiivisesti, vaan myös julkisesti.

Monet julkisen turvallisuuden virastot riippuvat edelleen perinteisistä järjestelmistä ja hajanaisista tiedoista. Kuinka tärkeää on infrastruktuurin modernisointi ennen kuin tekoäly voi tosiasiallisesti toimittaa merkittäviä tuloksia?

Tekoäly on vain niin voimakas kuin sen perusta. Olen työskennellyt suurimman osan urastani vanhojen CAD- ja RMS-ympäristöjen parissa, ja olen nähnyt, kuinka paljon hajanaiset järjestelmät rajoittavat sitä, mitä virastot voivat tehdä. Tutkijat, jotka käyttävät näitä järjestelmiä, joutuvat usein kysymään useita työkaluja yksittäisen tapauksen ymmärtämiseksi. Se ei ole kestävää.

Tekoäly riippuu yhdistetystä, saatavissa olevasta datasta. Jos järjestelmät ovat erillisiä tai vaativat manuaalista työskentelyä, tekoäly ei voi toimittaa merkittäviä tuloksia. Se tulee toiseksi monimutkaisuuden kerroksena sen sijaan, että se olisi voimakas tekijä. Moderni, pilvipohjainen infrastruktuuri avaa mahdollisuuden tekoälylle koko yhdistetyllä alustalla.

Näkyykö tulevaisuudessa sellainen, jossa tekoäly osallistuu aktiivisesti työnkulkuun, kuten tapausten hallintaan tai hälytyskeskuksiin, ja missä rajoja on asetettava?

Tekoäly tulee edetään syvemmälle työnkulkuun, erityisesti alueilla kuten puhelun käsittely, triage ja tapausten hallinta. Se tulee yhä enemmän koordinoimaan työnkulkua, priorisoi toimia ja tuomaan esiin seuraavat parhaat vaiheet reaaliajassa. Kuitenkin julkisen turvallisuuden alalla on oltava selkeät rajoitukset. Tekoäly voi suositella, priorisoida ja korostaa tärkeitä tietoja. Se voi vähentää aikaa, joka kuluu siirtymiseen tiedosta toimintaan. Mutta päätökset, jotka vaikuttavat ihmisten elämään, on pidettävä koulutettujen ammattilaisten vastuulla. Tavoitteemme on selkeys ja luottamus oikeaan hetkeen.

Julkinen luottamus on välttämätöntä poliisitoiminnassa, erityisesti kun uusia teknologioita otetaan käyttöön. Mitkä varmistukset ovat tehokkaimpia varmistamaan, että tekoäly vahvistaa luottamusta sen sijaan, että se heikentäisi sitä?

Tunnustamme, että luottamus on jotain, mida julkisen turvallisuuden virastot työskentelevät joka päivä ansaitakseen. Teknologia on oltava saman standardin mukainen. Tekoälylle se alkaa näkyvyydestä ja avoimuudesta. Käyttäjien on ymmärrettävä, mitä järjestelmä tekee ja miksi. Se vaatii myös johdonmukaisuutta, hallintoa ja mahdollisuutta tarkastella tuloksia ajan myötä. Rakennamme palautusilmoituksen suoraan kentältä, koska luottamus perustuu todelliseen maailman käyttöön ja jatkuvaan vahvistamiseen.

Miten odotat tekoälyn roolin kehittyvän julkisessa turvallisuudessa seuraavien vuosien aikana hallinnollisen tukemisen sijaan reaaliaikaisiin päätöksiin?

Tekoäly tulee olemaan upotettuna koko julkisen turvallisuuden elinkaareen, siitä hetkestä, kun puhelu tulee, siihen, miten tapaus ratkaistaan. Suurin muutos on, kuinka nopeasti virastot voivat siirtyä tiedosta toimintaan. Se on aina ollut haaste CAD- ja RMS-järjestelmissä. Siirrymme malliin, jossa järjestelmä ymmärtää, miten virastosi toimii, ennakoi ensimmäisiä askelia työnkulussa ja auttaa niiden toteuttamisessa, samalla kun se pysyy ihmiskeskeisenä.

Tekoälyn rooli on vähentää hallinnollista taakkaa, yhdistää hajanaisia järjestelmiä, tuoda esiin oikeat tiedot oikeaan aikaan ja tukea parempia päätöksiä paineen alla. Tekoäly ei voi korvata kokemusta. Se auttaa varmistamaan, että eturintamalla olevat ihmiset ovat paremmin informoituja, valmistautuneita ja tuettuja jokaisessa päätöksessä, jonka he tekevät.

Kiitos hienosta haastattelusta, lukijat, jotka haluavat oppia enemmän, kannattaa vierailla Mark43:ssa.