Gerald Kierce, Trustiblen toimitusjohtaja ja perustaja – Haastattelu

Gerald Kierce, Trustiblen toimitusjohtaja ja perustaja, on teknologia- ja politiikkajohtaja, joka keskittyy vastuullisen tekoälyn käyttöönottoon. Hän johtaa Trustiblen tehtävää auttaa organisaatioita luomaan luottamusta, hallitsemaan riskiä ja noudattamaan tekoälyyn liittyviä sääntöjä. Aikaisemmin hän toimi FiscalNoten tekoälyratkaisujen varapuheenjohtajana ja yleisjohtajana, jossa hän valvoi yritysten tekoälytuotteita ja toimi johtavissa rooleissa yrityskehityksessä, tuotteissa, asiakastuenessa ja toimitusjohtajan operatiiveissa. Uransa aikana hän on toiminut jatkuvasti teknologian, sääntelyn ja suurten yritysten toiminnan risteyksessä.

Trustible tarjoaa tekoälyhallintajärjestelmän, joka auttaa organisaatioita kartoittamaan tekoälyjärjestelmiä, arvioimaan ja lieventämään riskiä sekä käyttöönottoon sääntöjä järjestelmien ja dokumentaation kautta. Järjestelmä on suunniteltu juridisten, sääntelyn ja tekoälytiimien tarpeisiin, ja se keskittää hallintotoiminnot, luo yhtenäiset sääntelykehykset ja mahdollistaa nopeamman ja avoimemman tekoälyn käytön koko organisaatiossa.

Siirryttyäsi tuotemarkkinoinnista ja johtajan avustajasta tekoälyratkaisujen johtajaksi FiscalNoteen ennen Trustiblen perustamista, mitä näit näissä rooleissa, joka vakuutti sinut siitä, että tekoälyhallinta tarvitsee omat järjestelmät, ja mikä ongelma halusit ratkaista ensin, kun Trustible perustettiin?

Olin tarpeeksi onnekas saadakseni monia rooleja yli 8 vuoden ajan FiscalNotessa, jossa aloitin varhaisena työntekijänä ja lähdin sieltä seniorijohtajana listautumisen jälkeen.

Tuotemarkkinoinnista, johtajan avustajasta ja lopulta tekoälyratkaisujen johtajaksi FiscalNotessa näin jatkuvasti saman ongelman eri näkökulmista. Tekoälyhallinta on perustavaltiina sosiotekninen ongelma, mutta useimmat organisaatiot lähestyvät sitä hajanaisesti. Tiimit käsittelivät tekoälyn suorituskykyä, turvallisuutta, yksityisyyttä, eettisyyttä ja lakien tarkastelua erillisinä poluina, usein omistettuina eri toimintojen omistajille, joilla ei ollut yhteistä operatiivista runkoa, joka sitoi ne yhteen. Nämä viisi ulottuvuutta ovat ehdottoman tärkeitä, ja niiden on oltava yhteistyössä. Mutta siellä, missä organisaatiot kamppailivat, oli kääntää tämä sosiotekninen tarkoitus kestäväksi kerran, kun tekoäly siirtyi todelliseen päätöksentekoon.

Samaan aikaan tekoälyyn liittyvä sääntely-ympäristö muuttui selvästi. EU:n tekoälylakien ja liittyvien standardien muutokset merkitsivät siirtymistä tekoälyn sääntelystä kokeellisesta teknologiasta sääntelyyn kuin säädellystä infrastruktuurista. Mitä selkeäksi tuli, oli, että monet yritykset yrittivät kartoittaa sääntöjä ja odotuksia tekoälyjärjestelmiin jälkikäteen, sen sijaan, että suunnittelivat hallintaa, joka voisi jatkuvasti toteuttaa sääntelyodotuksia sosioteknisten ulottuvuuksien kautta.

Minun kokemukseni FiscalNotessa oli tärkeää, koska sovelsimme tekoälyä itse lainsäädännön, oikeudellisen ja sääntelyn maisemaan. Autimme organisaatioita ymmärtämään, miten lait kehittyvät, miten vaatimukset tulkitaan ja miten sääntelyodotukset muuttuvat operatiivisiksi velvoitteiksi ajan myötä. Tämä kokemus teki selväksi, että tehokas tekoälyhallinta vaatii samaa kuria toisinpäin: soveltamalla sääntely- ja politiikkatietoa suoraan siihen, miten tekoälyjärjestelmiä rakennetaan, otetaan käyttöön, valvotaan ja sovitetaan, kun olosuhteet muuttuvat.

Asiakkaat kuvasivat jatkuvasti samat kipukohtia. He eivät voineet luottaa siihen, mitä tekoälyjärjestelmiä oli tuotannossa, mitkä niistä olivat korkean riskin alttiita uusien sääntöjen mukaan, kuka oli vastuussa, kun järjestelmät ylittivät toiminnalliset rajat, tai miten osoittaa jatkuvaa sääntelymukautuvuutta, kun mallit, tiedot, toimittajat ja säännöt kehittyvät samanaikaisesti.

Kun Trustible perustettiin, ensimmäinen ongelma, jonka halusimme ratkaista, oli muuttaa sosiotekninen hallinta teoriasta käytännöksi. Keskityimme luomaan järjestelmän, joka yhdistää teknisen käyttäytymisen, käyttötapauksen riskikontekstin, omistajuuden ja sääntelyodotukset yhteen paikkaan. Trustible rakennettiin antamaan organisaatioille elävä järjestelmä tekoälylle, jossa on jatkuva näkyvyys ja vastuu, jotta hallinta voisi pysyä mukana sekä teknologisen muutoksen että sääntelykehityksen kanssa, sen sijaan, että se jää jälkeen.

Miltä näyttää eturintamalta, mitä olet oppinut viimeisen vuoden aikana siitä, miksi hallintaprogrammit jäävät jumiin, kun tekoäly siirtyy todellisiin päätöksiin, työnkulkuun ja asiakaskohtaisiin kokemuksiin?

Kun tekoäly siirtyy kokeilusta todellisiin työnkulkuun, hallinta taipuu jumiin hyvin käytännöllisistä syistä eikä niinkään filosofisista. Useimmat organisaatiot eivät tiedä, miten arvioida tekoälyriskiä tavalla, joka vastaa sitä, miten järjestelmät ovat todella käytössä. He voivat arvioida malleja abstraktisti, mutta he kamppailevat riskin arvioinnissa käyttötapauksessa, jossa konteksti, vaikutus ja alihankkijapäätökset ovat paljon tärkeämpiä kuin pelkästään tekniset mittarit.

Tämä ongelma korostuu entisestään tekoälyllä. Yksi perusmalli voi olla käytössä asiakastuessa, sisäisessä tutkimuksessa, päätöksenteossa tai sisällön luonnissa, joilla kaikilla on erilaiset riskiprofiilit. Ilman järjestelmällistä tapaa arvioida ja vertailla näitä käyttötapauksia, tiimit joko ylireagoivat varovaisuuteen tai etenevät ilman todellista luottamusta.

Ulkoiset tekoälyjärjestelmät monimutkaistavat asiaa entisestään. Organisaatiot riippuvat vahvasti toimittajista ja upotetuista tekoälyominaisuuksista, mutta heillä ei ole johdonmukaista tapaa arvioida näitä järjestelmiä, ymmärtää ylävirran valvontaa tai määritellä, miten toimittajan riski kääntyy heidän oman sääntelyn ja operatiivisen altistumisen suhteen. Tämän seurauksena tarkastelut muuttuvat subjektiivisiksi ja hitaiksi.

Nämä haasteet korostuvat asiantuntemuksen ja omistajuuden aukkojen kautta. Hallintavastuu on usein jaettu juridisen, sääntelyn, turvallisuuden, tietojen ja tuotetiimien välillä ilman yhteistä kehyksistä tai selvästi vastuullista omistajaa, kun järjestelmät saavuttavat tuotannon. Yhdistettynä sopimattomaan työkaluihin, kuten taulukkolaskentaohjelmiin, asiakirjarepositorioihin tai perinteisiin GRC-alustoihin, hallintatiimit menettävät näkyvyyden siihen, mitä muuttuu ja miksi se on tärkeää.

Ytimessään hallinta jumiutuu, koska organisaatiot soveltavat vanhoja pelikirjoja, jotka on suunniteltu staattisille järjestelmille, dynaamisille tekoälyjärjestelmille. Tekoäly vaatii jatkuvaan riskinarvioon, selkeää omistajuutta, joka on sidottu lopputuloksiin, ja työkaluihin, jotka heijastavat, miten järjestelmät todella toimivat tuotannossa, sen sijaan, että ne olisivat hyväksytty paperilla.

Lopulta omistajuus on usein ratkaisematon. Monissa organisaatioissa ei ole selvästi vastuullista omistajaa tekoälyjärjestelmälle, kun se siirtyy kokeilusta tuotantoon. Ilman nimettyä liiketoimintavastuullista omistajaa, joka on vastuussa lopputuloksista, hallinta muuttuu neuvoa-antavaksi ja edistyminen hidastuu.

Yhteinen lanka on, että organisaatiot soveltavat vanhoja hallintapelia tekoälyyn, joka on perustavaltiina uusi teknologia. Nämä pelikirjat oli suunniteltu staattisille järjestelmille ja aikataulupohjaisille tarkastelulle. Tekoäly vaatii jatkuvaan riskinarvioon, selkeämpään omistajuuteen ja työkaluihin, jotka yhdistävät hallinnan suoraan siihen, miten järjestelmät todella toimivat tuotannossa.

Miten määrittelet toisen vuoden hallinnan, ja mitä muuttuu, kun organisaatio siirtyy alkuvaiheesta jatkuvaan valvontaan, poikkeamien hallintaan ja jatkuvaan sääntelyyn?

Toisen vuoden tekoälyhallinta on hetki, jolloin tekoäly lopetetaan käsittelynä sarjana projekteja ja alkaa käsittelynä perusrakenteena päätöksentekoon. Tarkoitan tällä, että ensimmäisen vuoden aikana tekoälyhallinta on pääasiassa mahdollistamista. Tiimit keskittyvät hyväksymään käyttötapauksia, dokumentoimaan malleja ja luomaan tarkasteluprosesseja, jotta tekoäly voisi edetä vastuullisesti.

Kun tekoälyjärjestelmät laajenevat ja muuttuvat olennaiseksi osaksi liiketoimintaprosesseja, fokus muuttuu. Kysymys ei ole enää siinä, pitäisikö jotain ottaa käyttöön, vaan siinä, voidaanko sitä toimia turvallisesti ja luotettavasti ajan myötä, kun tiedot, käyttäjät, toimittajat ja säännöt muuttuvat. Tekoälyhallinta muuttuu jatkuvaksi eikä enää jaksoittaisksi, ja se laukaistaan todellisista muutoksista käyttäytymisessä tai kontekstissa eikä enää kalenteripohjaisista tarkasteluista.

Riski muuttuu dynaamiseksi. Sen sijaan, että riski arvioidaan staattisesti käyttöönoton yhteydessä, organisaatioiden on ymmärrettävä, miten riski kehittyy, kun mallit muuttuvat, laajuus laajenee tai uudet sidosryhmät vuorovaikuttavat järjestelmän kanssa. Sääntely seuraa samaa muutosta. Sääntelyvaatimukset siirtyvät sääntöjen kartoittamisesta käytännön toteutukseen, jossa valvontaa, valvontasignaaleja ja jatkuvasti kerättyjä todisteita käytetään.

Toinen tärkeä tekijä toisen vuoden tekoälyhallinnassa on todellisen tekoälyvälikohtauksen hallinnan käyttöönotto. Organisaatioiden on tiedettävä, mitkä järjestelmät ovat valvottavissa, priorisoida niitä perustuen sisäänrakennettuun riskiin, integroida oikeat tiedot merkityksellisten signaalien esiin saamiseksi ja määritellä selkeät hälytys- ja eskaloitumiskriteerit. Tämä mahdollistaa tiimien puuttumisen aikaisin, ennen kuin ongelmat muuttuvat välikohtauksiksi.

Milloin järjestelmät ovat hajanaisia ja resursseja on rajoitetusti, mitkä ensimmäiset hallintakapasiteetit sinä ajattelet, että yritysten tulisi vakiinnuttaa koko organisaatiota koskien?

Kun resursseja on rajoitetusti, organisaatioiden on oltava tarkoituksenmukaisia siinä, mihin he aloittavat, koska varhaiset valinnat asettavat kaiken sen, mitä seuraa. Ensimmäinen prioriteetti on saada luotettava näkyvyys siihen, missä tekoäly on todella käytössä liiketoiminnassa. Monet tiimit uskovat, että heillä on vain muutamia tekoälyjärjestelmiä, mutta he löytävät “varjotekoälyn”, upotetut toimittajan ominaisuudet ja hiljaisesti laajentuneet käyttötapaukset, joita ei koskaan virallisesti tarkasteltu. Ilman elävää katsausta siitä, mitä on tuotannossa, hallintakeskustelut jäävät teoreettisiksi ja irti todellisuudesta.

Kun näkyvyys on olemassa tekoälyinventaarion kautta, se on kyse siitä, miten saadaan omistajuus tekoälykäyttötapauksiin. Hallinta menee nopeasti sekaisin, kun vastuu on jaettu komiteoiden tai toimintojen välillä. Organisaatioiden on määriteltävä selvästi, kuka on vastuussa lopputuloksista, kun tekoälyjärjestelmä tekee tai vaikuttaa päätöksiin, eikä vain se, kuka sen rakensi tai tarkasti alun perin. Tämä selkeä vastuu muuttuu erityisen tärkeäksi, kun välikohtauksia tapahtuu tai kun mallit kehittyvät alkuperäisen laajuutensa ulkopuolelle.

Siitä lähtien tiimien on oltava käytännöllinen tapa ajatella riskiä. Tämä tarkoittaa yhteisen riskiluokittelun perustamista, joka toimii sekä sisäisesti kehitettyjen järjestelmien, tekoälykäyttötapauksien, kolmannen osapuolen toimittajien kautta. Ilman yhteistä riskinäkemystä organisaatiot joko ylivalvovat matalan vaikutuksen järjestelmiä tai alivalvovat niitä, jotka ovat eniten vaikuttavissa.

Lopulta hallinnan on tuotettava todisteita normaalin toiminnan tuloksena. Pidämme usein “Sanoma, tee, osoita” -periaatetta luotettavuuden osoittamiseksi tekoälyhallinnassamme. Hyväksymisten, muutosten ja valvontasignaalien kaappaus, kun järjestelmät toimivat, mahdollistaa organisaatioiden vastaamisen tarkasteluihin, välikohtauksiin, asiakastarpeisiin ja sääntelypyynnöksiin luottavaisesti, sen sijaan, että he joutuisivat jälkikäteen rakentamaan päätöksiä.

Miksi uskot, että tekoälyhallinnan on käsiteltävä samalla vakavuudella kuin tietoturvakysymyksiä tai GRC:ää, ja missä johtajat aliarvioivat eniten operatiivisen työtaakan?

Tekoälyhallinta kantaa systeemistä riskiä, joka on verrattavissa tietoturvaan ja GRC:ään, mutta siinä on lisäksi monimutkaisuutta. Kuten tietoturvaepäonnistumiset, tekoälyepäonnistumiset voivat leviä nopeasti ja näkymättömästi koko organisaatiossa. Kuten GRC, tekoäly leikkaa lakien, eettisten ja operatiivisten velvoitteiden kanssa. Toisin kuin kumpikaan, tekoälyjärjestelmät voivat muuttaa käyttäytymistään ajan myötä ilman eksplisiittistä ihmistoimintaa.

Johtajat aliarvioivat usein työtaakan operatiivisessa toiminnassa. Valvonta on jatkuva eikä jaksoittainen. Koordinointi ulottuu tuote-, tieto-, IT-, lakitieteen, sääntelyn ja hankintatiimien yli. Muutoksen hallinta on jatkuvaa, koska mallit, toimittajat, käyttötapaukset ja säännöt kehittyvät samanaikaisesti.

Organisaatiot, jotka käsittävät tekoälyhallinnan yksinkertaisena sääntelytehtävänä, kamppailevat väistämättä. Ne, jotka lähestyvät sitä operatiivisena infrastruktuurina, samalla tavalla kuin turvallisuus tai luotettavuus, ovat paremmin asemissa skaalata tekoälyä turvallisesti ja kestävästi.

Kun Yhdysvaltain osavaltiot ajavat tekoälysääntöjä eteenpäin, kun taas liittovaltion politiikka on kiistanalainen, miten yritysten tulisi suunnitella hallintaa, joka säilyy sääntelyepävarmuuden läpi?

Tekoälyyn liittyvä sääntely-ympäristö on epävarmainen ja kehittyy. Kaikkein kestävimmmät hallintaprogrammit rakennetaan sääntövaatimusten ympärille eikä yksittäisiin sääntöihin. Sen sijaan, että reagoisivat jokaiseen uuteen lakiin omilla prosesseilla, organisaatioiden tulisi keskittyä yleisiin odotuksiin, jotka näkyvät eri viranomaisten toimissa, kuten kartoitus, avoimuus, vastuu, riskinarviointi, ihmisen valvonta ja dokumentaatio.

Kun hallintajärjestelmät ovat modulaarisia, uudet sääntelyvaatimukset voidaan kartoittaa olemassa oleviin valvontoihin sen sijaan, että pakottaisivat tiimit keksimään uudelleen lähestymistapansa jokaisen muutoksen kohdalla. Tämä vähentää kitkaa ja auttaa hallintaa pysymään sääntelyn muutosten mukana.

Tavoitteena ei ole optimoida tänään voimassa olevien sääntöjen mukaisuutta, vaan sopeuttaa sitä, kun odotukset kehittyvät.

Mitä tekoälyhallintakapasiteetteja odotat tulevan välttämättömiksi, kun organisaatiot laajentavat tekoälyä yhä useampiin liiketoimintayksiköihin vuoteen 2026 mennessä?

Kun tekoäly siirtyy eristetyistä koekäytöistä järjestelmiksi, jotka vaikuttavat todellisiin päätöksiin, hallintaodotukset muuttuvat yhtä nopeasti. Vuoteen 2026 mennessä organisaatiot eivät voi enää luottaa pelkästään niiden pelikirjoihin, jotka toimivat vuosina 2024 ja 2025, jolloin tekoälyvalvonta oli usein manuaalista, jaksoittaista ja keskittyi yksittäisiin tarkasteluihin. Jatkuva valvonta tulee olemaan välttämätöntä, koska staattinen dokumentaatio ja pisteen aikaiset arviot eivät tyydytä sääntelijöille, hallituksille, työntekijöille tai asiakkaille dynaamisessa tekoälyympäristössä.

Kun tekoäly upotetaan yhä useampiin tiimeihin ja työnkulkuun, organisaatioiden on myös oltava johdonmukainen hallinta yhä monimutkaisemmissa tekoälytoimittajaketjuissa. Sisäiset mallit, kolmannen osapuolen toimittajat, upotetut tekoälyominaisuudet ja autonomiset komponentit on hallinnoitava saman hallintalinsan kautta, sen sijaan, että kolmannen osapuolen tekoälyä kohdeltaisiin sokeana pisteena tai oletettaisiin, että vastuu päättyy hankintaan.

Tarkastelukelpoiset todisteet on oltava saatavilla pyynnöstä, kun sääntelyvalvonta kiristyy ja julkisen avoimuuden odotukset kasvavat. Tämä tarkoittaa, että hallintatoimintaa on kaapattava, kun tekoälyjärjestelmiä suunnitellaan, otetaan käyttöön ja valvotaan, sen sijaan, että päätökset jälleenrakennettaisiin välikohtauksen tai tarkastelupyynnön jälkeen.

Viimeksi hallinnan on oltava upotettuna koko tekoälyelinkaaren ajan. Valvonta ei ole enää pelkästään lakitarkastelu käyttöönoton yhteydessä, vaan operatiivinen kyky, joka on integroitu SDLC:hen, MLOps:ään ja kolmannen osapuolen hankintatyön prosesseihin. Organisaatiot, jotka rakentavat nämä kapasiteetit, ovat paremmin asemissa sopeutumaan sääntelyepävarmuuteen, vastaamaan välikohtauksiin ja skaalata tekoälyä nopeammin ja turvallisemmin, kun odotukset jatkavat kehittymistä.

Jos neuvottelisit yritykselle, jolla on jo tekoäly tuotannossa, mutta ei virallista hallintaprogrammia, miltä realistinen ensimmäinen 90 päivää näyttäisi?

Ensimmäiset 30 päivää tulisi keskittyä perusnäkyvyyden saavuttamiseen. Tämä tarkoittaa tekoälyjärjestelmien tunnistamista, joita on tuotannossa, ymmärtämistä, missä ne vaikuttavat todellisiin päätöksiin, ja selkeän omistajuuden määrittelyä.

Seuraava vaihe on perusvalvontatoimien perustaminen. Organisaatioiden on määriteltävä, miten he luokittelevat riskiä, esiteltävä hyväksymispisteet korkean riskin järjestelmille ja aloitettava seuranta alueilla, jotka ovat tärkeimpiä.

Viimeisessä vaiheessa hallinnan on siirryttävä asetuksesta toimintaan. Valvonta on integroitu olemassa oleviin työnkulkuun, hälytysreitit on määriteltävä selkeästi ja todisteiden on alkaava kertyä luonnollisesti, kun järjestelmät toimivat.

Tavoitteena ensimmäisten 90 päivän aikana ei ole täydellisyys. Se on liike. Hallintaprogrammi, joka toimii käytännössä epätäydellisesti, on paljon arvokkaampi kuin sellainen, joka on vain paperilla.”

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Trustiblessa.